Отношения между OpenAI и математическим сообществом остаются напряженными несмотря на создание новой консультативной группы
По прошествии нескольких месяцев, за которыми OpenAI последовательно демонстрировала впечатляющие прорывы в математике, но при этом неудачно их анонсировала, компания предприняла новую попытку восстановить репутацию. Для этого она учредила независимую консультативную группу AGMAI из ведущих ученых. Однако участники академического сообщества и сами члены новой группы отмечают, что процесс организации вызвал значительную путаницу и вызвал сомнения в истинной автономии совета, воспроизводя ошибки прошлых лет.
# Независимая экспертиза OpenAI столкнулась с недоверием математиков
В последние месяцы OpenAI продемонстрировала способность достигать выдающихся результатов в области чистой математики. Однако одновременно компания неизменно ошибалась в коммуникации вокруг этих открытий, создавая напряжение в научной среде. Теперь, в попытке наладить диалог, компания объявила о создании независимой консультативной группы экспертов — AGMAI. Несмотря на заявления об автономии, математическое сообщество реагирует скептически, отмечая спешку и неясности в организации работы группы.
Формирование AGMAI и вопрос автономии
21 сентября группа под названием Advisory Group on Mathematics and Artificial Intelligence (AGMAI) была официально анонсирована. Инициатором создания выступила гостевая статья профессора Теренса Тао, лауреата медали Филдса и известного критика действий технологических гигантов в математике.
Согласно заявлению, AGMAI состоит из девяти видных математиков и должна действовать независимо от OpenAI. Группа призвана консультировать компанию и другие ведущие лаборатории искусственного интеллекта относительно обзора и коммуникации новых результатов. В собственном сообщении OpenAI подчеркивалось, что члены группы имеют право открыто оспаривать позицию компании, публиковать свои рекомендации и предоставлять советы, которые не запрашивались напрямую.
Тем не менее, реакция научного сообщества была неоднозначной. Многие исследователи восприняли инициативу как попытку корпоративного пиара, особенно учитывая громкий характер презентации компании. Хотя на веб-сайте группы указано, что она была образована после того, как некоторые из будущих членов были привлечены к размышлениям об учреждении совета, точный круг тех, кого первоначально подходила OpenAI, остается неясным.
Профессор Мартин Хайрер, один из членов AGMAI и авторитетный ученый в области математической физики, настаивает на независимости совета. Он подчеркивает, что группа не получает финансовой или технической поддержки от OpenAI, и ни один из его членов не подписывал соглашений, ограничивающих их свободу высказываний. Тем не менее, Хайрер признает, что способ подачи информации компанией вызвал недоумение.
«Способ, которым они сформулировали свое заявление, действительно не помог», — отметил Хайрер.
Он добавил, что если читать текст заявления детально, формальных противоречий нет, но стиль подачи свидетельствует о высоком уровне работы в сфере публичных отношений, что не всегда уместно в научном контексте.
Давление на научное сообщество и страх устаревания
Одной из ключевых задач AGMAI стало координирование публикации результатов, которые, по утверждению OpenAI, были получены их нерелизующейся внутренней моделью. Компания заявляет, что после решения задачи Навье-Стокса, являющейся одной из семи «миллениумовых проблем», ее модель уже решила более 100 других сложных математических задач.
Такое обилие объявлений вызывает тревогу среди ученых. Профессор Альваро Лосано-Робledo отмечает, что для математика нет смысла говорить: «Я решил всё это, но не знаю, что с этим делать». В академической среде принято либо опубликовать доказательство, либо работать над ним, но не объявлять о нем массово до завершения процесса.
Этот подход создает парадоксальную ситуацию для исследователей. Как отметила профессор Колва Рони-Доугал из Университета Святого Андреса, знание о грядущем потоке результатов заставило ее задуматься: стоит ли ей продолжать свою работу или перейти в режим ожидания. Страх состоит в том, что десятилетия усилий могут быть аннулированы за один раз, а результаты могут быть использованы в рекламных целях перед IPO компании.
«Ситуация становится мучительной, потому что чем больше таких объявлений будет сделано, тем выше вероятность, что моя текущая работа или работа моих студентов внезапно станет устаревшей», — сказала Рони-Доугал.
Проблемы качества публикаций и этические вопросы
Критика в адрес OpenAI распространяется не только на коммуникацию, но и на качество самих научных публикаций. Ученые отмечают плохое качество написания статей и недостаточное взаимодействие с существующей литературой по проблеме. Это затрудняет оценку значимости результатов и приводит к тому, что авторы оригинальных открытий получают недостаточное признание.
В некоторых случаях компания корректировала документы после их публикации, чтобы устранить выявленные недостатки, но не объявляла об этих изменениях публично. Мартин Хайрер описывает такие действия как «подлое» и «халатное научное поведение», вызывающее паранойю у специалистов.
По мнению экспертов, проблема заключается в том, что AI-компании часто не понимают ценности математической работы. Для них важен сам факт наличия решения, тогда как для человеческого сообщества критически важно понимание процесса доказательства и контекста.
«Они должны использовать нашу экспертизу», — заявил Лосано-Робledo. «Они должны прославить это решение вместе с нами».
Создание AGMAI выглядит как ответ на эти претензии, но доверие научного сообщества к ней сформировать сложно. Как признает Хайрер, главная цель группы — помочь математическому сообществу выстроить отношения с технологическими компаниями, которые часто действуют вразрез с академическими стандартами. Пока же, по его словам, у группы нет масштабного плана, работа началась всего пару дней назад.
Технический термин: Миллениумовые проблемы
Семи «миллениумовых проблем» — это семь задач, поставленных Институтом Кларксона в 2000 году, каждая из которых имеет призовой фонд в один миллион долларов. К ним относятся, например, гипотеза Пуанкаре (уже решенная), проблема Навье-Стокса и гипотеза Римана. Решение любой из этих задач считается вершиной математической науки.
Взгляд на будущее: ожидание и скептицизм
Пока математическое сообщество ожидает официальных результатов AGMAI, атмосфера в академической среде остается напряженной. Скептицизм вызван тем, что доверие, однажды потерянное из-за резонансных ошибок, не восстанавливается мгновенно. Ученые ожидают, что новая консультативная группа будет действовать прозрачно и уважать традиции академической честности, а не использовать свои полномочия для корпоративных выгод.
Отношения между технологическими гигантами и академическим миром находятся в точке перелома. Если OpenAI хочет интегрироваться в науку, ей необходимо не просто иметь список лучших ученых, а продемонстрировать готовность работать по правилам, которые устанавливает научное сообщество, а не наоборот.