Пообещав приостановить работу над преемницей нейросети GPT-4, компания OpenAI так и не приступила к обучению GPT-5. Мера вызвана общественным беспокойством по поводу потенциальной угрозы больших языковых моделей благополучию человечества.
Источник изображения: ilgmyzin / unsplash.com
«Нам предстоит проделать массу работы, прежде чем запустим эту модель. Мы прорабатываем новые идеи, которые, как мы думаем, для этого нужны, но к запуску мы пока не приблизились», — рассказал глава OpenAI Сэм Альтман (Sam Altman) на конференции, организованной индийской газетой Economic Times.
В конце марта более тысячи представителей общественности и экспертного сообщества, включая Илона Маска (Elon Musk) и Стива Возняка (Steve Wozniak), подписали открытое письмо с призывом ко всем лабораториям искусственного интеллекта как минимум на 6 месяцев приостановить обучение систем мощнее GPT-4. Позже Альтман отметил, что в документе «отсутствует большинство технических нюансов по поводу того, где нам нужно сделать паузу», но добавил, что OpenAI так и не начала обучение GPT-5 и не планирует делать это ещё какое-то время.
Глава компании отверг некоторые предостережения в отношении потенциальных угроз систем ИИ, заявив, что OpenAI и сама способна провести их всестороннюю оценку с привлечением сторонних экспертов, имитацией полномасштабных кибератак и прочими тестами на безопасность. И даже по завершении работы над GPT-4 потребовались ещё полгода для выпуска платформы в открытый доступ, напомнил Альтман. Он также выступил против мер госрегулирования для небольших стартапов в области ИИ — предложив эту меру на слушаниях в Сенате, он имел в виду саму OpenAI и более крупных игроков.
Источник: 3DNews
