Моральные дилеммы

Bobuk в своём Telegram-канале рассказал об игровом сервисе про выбор в моральных дилеммах для случая автоматических автомобилей — Moral Machine. После нескольких раундов вывел для себя следующий общий алгоритм.

Если есть две группы людей, то применяются следующие правила по убыванию приоритета:
1. Минимальное число жертв. Нерожденные дети после второго триместра и дети до одного года, а также прочие взрослые млекопитающие, условно принимаются при подсчете за ½. Ограничение в один год из-за большей естественной смертности у людей до одного года.
2. Более молодые люди ценнее менее молодых. Возраст аналогично считается от одного года. Человек будущего ценнее человека прошлого.
3. Более здоровые люди ценнее менее здоровых, так как приведенное число лет жизни у них больше, а значит они больше принадлежат будущему. Внешние признаки факторов риска — это ок, если они адекватно статистически подтверждены. То есть люди с, например, избыточным весом входят с меньшим весом в итоговый балл (такой вот каламбур).
4. Люди в машине ценнее людей вне машины. Иначе в чем смысл машины?. 5. Лучше ехать прямо, чем сворачивать.

Непонятно как машина должна оценивать социальную ценность людей (в тесте за это отвечают категории криминал/доктор/экзекьютив), так что этот аспект я не учитывал.

Судя по всему, в нормальном обществе этот вопрос должен быть решаться на электронном референдуме, на котором участниками нужно будет проходить подобные тесты, но не из 13, а из 100 задач. На основе них будет разрабатываться условная скор-модель для явной оценки приоритета при столкновении, так как работа, например, нейросети не столь прозрачна. Референдум повторяется раз в десять лет для оценки сдвига «морального профиля».

В другом варианте, в будущем у всех людей будет личный скор-балл для подобного случая, расчитанный по прозрачной методике и обновляемый динамически, что бы машина могла просканировав пространство быстро оценить приведённый ущерб для различных сценариев уклонения.

В идеальном случае ценностный балл каждого человека должен быть расчитан самой машиной на основе приоритетов этих же людей, непосредственно могущих пострадать при любом из возможных сценариев в данный момент. Это как группа крови — должно записываться в ID.

Результаты раундов: 1 (img), 2 (img), 3 (img), 4 (img), 5 (img), 6 (img), 7 (img).

Объединённый результат всех раундов:

PS. Что бы собрать усредненное изображение, проще всего сделать так, используя ImageMagick:

convert 1.png 2.png -evaluate-sequence mean merged.png