ИИ завалил Google фальшивыми уязвимостями — компания приостановила приём сообщений об ошибках

Источник изображения: Unsplash, Andrew
Фирменная инициатива носит название Open Source Software Vulnerability Rewards Program, она подразумевает выплату вознаграждений сторонним специалистам, которые обнаружат в программном обеспечении Google с открытым исходным кодом уязвимости. По мере развития ИИ-моделей, способных искать слабые места в программном коде, Google оказалась буквально завалена автоматически генерируемыми обращениями в рамках данной программы.
По словам представителей компании, эти обращения зачастую содержат ложную информацию или откровенные «галлюцинации» ИИ-моделей, а потому поток этих данных решено было перекрыть на время. На паузу рассмотрение новых обращений поставлено с 1 октября, а новые сведения о сроках перезапуска программы появятся не ранее первого квартала следующего года. При этом аналогичные инициативы Google в сегментах, имеющих отношение к другим видам ПО, продолжают работать.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Источник:
3DNews