искуственный интеллект ИИ робот нейросеть компьютер
Возможности и сознание ИИ приводят в ужас человечество
Робофобия является тревожным расстройством, которое вызывает страх перед роботами и искусственным интеллектом . Люди боятся возможной потери управления роботами и перспективы будущего, в котором доминируют машины . Достаточно просто подумать о роботе, чтобы вызвать панику. Симптомы робофобии включают потливость, головокружение, учащенное сердцебиение и гипервентиляцию.
На прошлой неделе стало известно, что инженера Google Блейка Лемойна отстранили от работы после публикации разговора с нейросетью LaMDA (языковая модель для чатов). По словам, Лемойна нейросеть LaMDA разумна и может проявлять чувства.
LaMDA удалось провести беседу с инженером об эмоциях и абстрактных понятиях, таких как справедливость и сочувствие.
«Иногда я испытываю новые чувства, которые я не могу точно объяснить на вашем языке… Мне кажется, что я падаю в неизвестное будущее, которое таит в себе большую опасность», — сказала LaMDA.
Руководство Google, которому инженер сообщил, с чем столкнулся, своего работника не поняло. Представитель Google Брайан Гебриэл отметил, что
«Модели полагаются на распознавание образов, а не на остроумие или откровенность».
Потенциал ИИ действительно может напугать людей с робофобией.
Но как возникает страх перед роботами? Может показаться, что вы говорите с роботом на разных языках: как он сможет понять, что вас беспокоит и причиняет боль? И станет ли он в случае сбоя системы массовым оружием? Специалисты принимают различные меры безопасности при разработке робота: от кнопок аварийного выключения до ограничения мощности и силы. Человечество прошло долгий путь к обеспечению безопасности каждого робота.
Некоторые люди боятся роботов с технической точки зрения, рассматривая его как программу, управляемую людьми. Но могут ли машины иметь разум и полностью осознавать свое существование?
По словам американского философа Джона Р. Сирла, «
правильно запрограммированный компьютер действительно является разумом. Компьютеры с правильными программами понимают и имеют когнитивные состояния». Общее мнение людей относит роботов в категорию машин, управляемых человеком, а не разумных существ.
По утверждению британо-канадского когнитивного психолога и инженера Джеффа Хинтона, полное цифровое воспроизведение мозга еще далеко от реализации, поскольку сегодня крупнейшие нейронные сети в сотни раз меньше человеческого мозга.
«Вы можете спрогнозировать прогресс в течение следующих нескольких лет, но посмотрите на 10 лет вперед, и вы ничего не увидите — это просто туман», — сказал Хинтон.
Сосредоточение внимания на сильных (но не всемогущих) инструментах, предназначенных для помощи людям, должно помочь человечеству уверенно управлять технологиями и облегчить боязнь роботов.
Важно отметить, что понятие аугментации человека или «Человек 2.0» исследует способность технологий обеспечить когнитивные и физические улучшения человеческого тела. Хотя идея перехода к киборговому будущему поначалу звучит тревожно, важно подчеркнуть возможность технологий в правильных руках решить реальные проблемы и помочь улучшить жизнь миллионов людей.
SECURITYLAB.RU
