Эссе на Хабре предлагает поручать цифровому представителю только заранее заданные действия

Эссе на Хабре предлагает поручать цифровому представителю только заранее заданные действия

16 октября Александр Самойленко опубликовал на Хабре эссе «Immortality as a Service». Он различает цифровой след, портрет, модель, представителя с ограниченным мандатом и цифрового субъекта — систему с признанными обязанностями и ответственностью за последствия.

После смерти остаются письма, фотографии, голосовые сообщения, решения и привычки. Цифровой след хранит эти фрагменты, портрет собирает их в описание человека, а модель ищет закономерности в том, как он говорит, оценивает ситуацию и делает выбор. В схеме Самойленко представитель может действовать в пределах заранее заданного мандата: объяснять позицию человека, вести оговорённую переписку, управлять частью наследия или исполнять зафиксированные намерения.

Самойленко формулирует различие так:

«Архив хранит ответы человека. Цифровая личность пытается сохранить его способность отвечать».

Мандат нужен для решений в новых обстоятельствах: он связывает их с ценностями, которые человек успел зафиксировать.

В авторском сценарии человек много лет поддерживал школу, исследовательскую тему или благотворительный фонд. После его смерти представитель сопоставляет новый случай с зафиксированными ценностями, объясняет позицию, публикует аргументы и обращается к попечителям, если новый случай требует пересмотреть прежнюю формулу. Так представитель выводит новое решение из сохранённых ценностей и обсуждает его с попечителями.

Для этого автор предлагает личное цифровое завещание: документ с согласием на использование данных, происхождением исходных и синтетических материалов, границами мандата, попечительством и историей изменений. Независимый аудит может сверить источники данных, версию модели, журнал правок и полномочия операторов. Эти условия позволяют проверить, на каких данных работает система, кто менял её правила и кто вправе прекратить её работу.

В работе кембриджских исследователей о griefbots — цифровых симуляциях умерших в центре стоят согласие человека, чьи данные использованы, и согласие собеседника такой симуляции. Самойленко задаёт другой организационный вопрос: кто определяет полномочия системы, как видна история её изменений и кто может оспорить решение, принятое от имени человека.

В этой авторской схеме действие от имени умершего можно сверить с мандатом, происхождением данных и историей изменений, а попечитель получает право оспорить решение или прекратить работу системы.