Оцифровать личность любимой бабушки, чтобы общаться с ней после её смерти, — вероятно, не лучшая идея.
Лиза Захарова Переводчик Лайфхакера
Избранное утешение в общении с чат-ботом, начинает получать рекламу, когда заканчивается пробный период. Например, ей предлагают услуги доставки еды голосом родного человека. Внучка чувствует, что проявила неуважение к памяти бабушки, и хочет отключить чат-бота, но сделать это особенным, значимым образом, чего поставщики услуг не учли.По мнению авторов исследования, у людей может развиться сильная эмоциональная связь с «цифровыми призраками», что сделает пользователей особенно уязвимыми перед манипуляциями. Именно поэтому важно создавать методы или даже ритуалы для достойного отключения таких чат-ботов. Например, это могут быть цифровые похороны или другие церемонии, которые будут более уместны в конкретном социальном контексте.Кроме того, специалисты рекомендуют принимать протоколы, которые предотвратят неуважительное использование таких чат-ботов — например, для рекламы или активного ведения страницы в социальных сетях.Учёные также считают, что получатели данных должны заручаться согласием доноров, а процесс проектирования чат-ботов должен включать в себя подсказки для тех, кто хочет «воскресить» близких. Например, в виде вопросов: «Вы когда-нибудь разговаривали с бабушкой о том, как она бы хотела, чтобы её запомнили?» Таким образом при создании «цифровых призраков» на первый план будет выходить достоинство умершего человека.
Второй сценарий
Он строится вокруг вымышленной компании Paren’t (рarent — родитель). В сценарии фигурирует смертельно больная женщина, которая оставляет после себя чат-бота, чтобы он помог её 8-летнему сыну пережить горе. Несмотря на то, что сначала «цифровой призрак» действительно помогает, ИИ начинает генерировать сбивающие с толку ответы по мере того, как всё больше адаптируется к потребностям ребёнка. Например, говорит о будущей личной встрече. Исследователи рекомендуют устанавливать возрастные ограничения для взаимодействия с «цифровыми призраками». Также они призывают обеспечить «значимую прозрачность», чтобы пользователи всегда знали, что общаются с искусственным интеллектом. Такие предупреждения могут напоминать уже существующие — например, о контенте, который может спровоцировать судороги.
Третий сценарий
Он описывает пожилого человека, который обращается в компанию с названием Stay (что можно перевести с английского и как «оставаться», и как «опора, поддержка»). Клиент оплачивает 20-летнюю подписку в надежде, что общение с его «цифровым призраком» утешит взрослых детей и позволит внукам с ним познакомиться.Услуга активируется после смерти заказчика. Один взрослый ребёнок не взаимодействует с сервисом и получает шквал писем от лица своего мёртвого родителя. Другой ребёнок пользуется сервисом, но в итоге испытывает эмоциональное истощение и вину, думая о судьбе чат-бота. Однако приостановка работы «цифрового призрака» нарушит условия контракта, который родитель подписал с компанией.Исследователи считают, что сервисы цифровой загробной жизни должны принимать во внимание права и согласие не только того, кто становится «цифровым призраком», но и того, кто будет взаимодействовать с ИИ-симуляцией.Подобные услуги способны причинить огромные страдания людям, которые могут подвергаться нежелательному цифровому преследованию со стороны пугающе точных ИИ-копий своих близких. Потенциальный психологический эффект может быть разрушительным, особенно в ситуации, когда и без того тяжело из-за утраты.Поэтому учёные призывают разработчиков уделять приоритетное внимание протоколам, которые позволят вероятным пользователям прекращать общение с «цифровым призраком» такими способами, чтобы обеспечить эмоциональную завершённость.
Лайфхакер
