Источник изображения: Grok
В августе OpenAI собрала около 40 математиков, чтобы обсудить, как действовать в ситуации, когда искусственный интеллект явно превосходит возможности людей в этой области и попросить совета относительно публикации полученных результатов. При этом, по сообщению издания Wired, компания заверила, что не станет обнародовать все решения разом, хотя официальный представитель OpenAI Линдси Маккаллум (Lindsay McCallum) утверждает, что ей ничего не известно о таких заверениях.
Участники встречи предложили публиковать результаты в виде научных работ с подробным объяснением методов и полученных доказательств. По мнению математика Северо-Западного университета (Northwestern University) в США Брайны Кра (Bryna Kra), это позволило бы другим исследователям проверить результаты, разобраться в них и использовать в дальнейшей работе. Однако, по её словам, OpenAI не последовала этой рекомендации и вместо этого собирается разместить сотни результатов на GitHub. «Судя по всему, эти пожелания были проигнорированы», — отметила она.
Однако OpenAI пошла по другому пути. Компания создала на GitHub специальный репозиторий Math, где публикует материалы, связанные с использованием ИИ для решения математических задач. Одновременно OpenAI рассказала о своей работе и объяснила, как использует ИИ для продвижения исследований в этой области.
Таким образом, первоначальные опасения математического сообщества о том, что результаты будут распространяться преимущественно через репозитории и социальные сети, частично подтвердились. При этом публикация на GitHub сама по себе не заменяет научную статью: репозиторий позволяет сделать материалы доступными для изучения, но не обеспечивает того же уровня описания методики, проверки и академического обсуждения, который предполагает традиционная научная публикация.
Ситуация усугубилась после инцидента в сентябре, когда разработчики задействовали тысячи ИИ-агентов для решения «Задачи тысячелетия», за которую назначена награда в 1 миллион долларов. Математик и профессор Нью-Йоркского университета Тристан Бакмастер (Tristan Buckmaster) обвинил компанию в присвоении результатов, над которыми он работал совместно с сотрудником Anthropic Левентом Альпёге (Levent Alp?ge), а переговоры о соавторстве сопровождались давлением, включая угрозы карьере исследователя со стороны сотрудника OpenAI Себастьяна Бубека (S?bastien Bubeck).
Многие учёные воспринимают действия технологических гигантов как проявление монополии и пренебрежение к коллективному научному труду. Профессор Нестор Гийен (Nestor Guillen) отметил распространение мнения о «мафиозном поведении» корпораций, сосредоточивших огромные вычислительные ресурсы в своих руках, а Брайна Кра подчеркнула, что публикации решений в формате твитов не способствуют развитию экосистемы, на данных которой и обучаются ИИ-модели.
В ответ на растущее напряжение в научной среде OpenAI создала консультативную группу по математике и искусственному интеллекту, однако математики отмечают отсутствие реальных изменений в действиях компании. В частности, разработчики продолжают игнорировать специализированные репозитории, такие как Hexagon и Palomar, созданные сообществом для систематизации доказательств, полученных с помощью инструментов ИИ.
Внутри OpenAI некоторые сотрудники высказывают мнение, что искусственный интеллект может сделать традиционную математику неактуальной и профессия находится под угрозой. Однако тот же Бубек считает, что технология наоборот расширит возможности и поможет исследователям решать более амбициозные задачи. «Я вижу в этом возможность расширить сферу деятельности математиков и повысить значимость их работы», — утверждает он. Математики, в свою очередь, признают потенциал новых инструментов, но требуют академического подхода к публикации результатов.
Математическое сообщество в целом также признаёт потенциал ИИ-инструментов, однако настаивает, что полученные с их помощью результаты должны проходить через те же процедуры проверки, воспроизводимости и научного обсуждения, что и результаты, полученные традиционными методами. Появление открытого репозитория OpenAI делает часть таких материалов доступной исследователям, но не снимает вопроса о том, насколько подробно и в каком формате должны публиковаться доказательства, полученные ИИ.
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Источник: 3DNews
