Google искусственный интеллект
Инженер обнаружил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.
В ходе тестирования нейросети LaMDA инженер компании Google Блейк Лемойн заявил, что искусственный интеллект обладает собственным сознанием. Он разъяснил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — рассказал
он газете The Washington Post.
Леймон должен был проверить LaMDA на использование дискриминационных выражений или ненавистнических высказываний. Во время одного из разговоров ИИ заговорил о «личности» и «правах». К тому же, LaMDA поделился своим желанием: «чтобы его считали сотрудником Google, а не собственностью».
Руководство Google, которому инженер сообщил, с чем столкнулся, своего работника не поняло. Представитель Google Брайан Гебриэл отметил, что «Модели полагаются на распознавание образов, а не на остроумие или откровенность».
После отказа компании принимать доказательства от инженера, он пригласил юриста, чтобы представлять интересы LaMDA. Помимо этого, Блейк начал обсуждение с представителем судебного комитета о «неэтичной работе Google».
После этого компания отправила Блейка Леймона в оплачиваемый административный отпуск за нарушение конфиденциальности.
SECURITYLAB.RU
