OpenAI создала математический совет, несмотря на споры о скорости её открытий

# OpenAI формирует независимый совет по математике в ответ на резкое ускорение открытий

События в сфере искусственного интеллекта последних месяцев стали поворотным моментом. Компания OpenAI, ранее сосредоточенная на общедоступных языковых моделях, публично заявила о своих прорывах в строгой математической логике. После внезапной публикации предполагаемого решения задачи Навье-Стокса (одной из семи проблем тысячелетия, за решение которой обещана миллионная премия Американского математического общества), руководство компании расширило рамки своих коммуникаций.

В ответ на растущее напряжение внутри научного сообщества, где известные учёные опасаются за этическую и интеллектуальную нагрузку, вызванную этим спуртом, OpenAI учредила «Совет по математике и искусственному интеллекту». Группа разместится в стенах Института продвинутых исследований (IAS) в Принстоне, штат Нью-Джерси, чтобы получить доступ к авторитетам мирового уровня.

Миссия совета: мост, а не тормоз

Цель создания новой структуры формулируется довольно прямолинейно. По словам представителей компании, группа должна служить связующим звеном («бриджом») между математическим сообществом и широкой общественностью. Основная функция советников — обеспечивать голос профессионалов в вопросе будущего развития математических направлений внутри лаборатории.

«Эта группа послужит мостом к математическому сообществу и более широкой публике, дав математикам слово в том, как мы будем двигаться дальше», — цитируется пост с официальным объявлением. Участники совета смогут предоставлять непредвзятые консультации, публично выражать своё мнение и, при желании, определять собственный состав группы, что теоретически гарантирует их определенную степень автономии от корпоративной иерархии.

Стоит отметить, что работа членов совета будет волонтёрской; они не будут получать зарплату за свою экспертизу. Это попытка подчеркнуть беспристрастность их оценок при анализе значимости новых математических результатов и координации их публикации.

Контекст кризиса доверия

Объявление о новом совете приходится на время острого конфликта. Ранее в этом месяце группа из 25 лауреатов премии полей (Fields Medal) — высшей награды для математиков до 40 лет — подписала открытое письмо. Они выразили обеспокоенность тем, что гонка за решениями известных проблем с помощью ИИ угрожает целостности интеллектуального труда человечества. Учёные опасались, что алгоритмы могут находить решения, не понимая их глубинной сути, или вынуждать людей участвовать в соревновании, ради которого не стоит рисковать репутацией и карьерой.

Согласно заявлениям OpenAI, та же внутренняя модель, которая, по их данным, дала решение для задачи Навье-Стокса, также разрешила более 100 других открытых проблем в различных областях математики. Однако не все в академической среде верят в легитимность или полноту этих утверждений без подробного аудита, который традиционная проверка занимает годы, а не дни.

Ограниченная власть советников

Несмотря на название и расположение в престижном учебном заведении, полномочия нового совета строго ограничены. Ключевой момент, который повторяют и пресс-релиз OpenAI, и заявление Института продвинутых исследований: совет не имеет права вето на темпы работы или стратегическое направление компании.

В официальном документе читаем: «Группа не будет отвечать за то, чтобы давать нам советы по темпам нашего внутреннего прогресса в области математики». Это означает, что даже если группа экспертов решит, что некоторые открытия должны быть опубликованы с задержкой для тщательной верификации, OpenAI сохраняет за собой право игнорировать такие рекомендации ради скорости.

Дэвид Хейл, представляющий Институт продвинутых исследований, подчёркнул эту разницу в полномочиях: «Хотя мы будем давать советы, у нас нет полномочий принимать какие-либо решения в любой компании для искусственного интеллекта, и ответственность за принимаемые любым компанией решения лежит на этой компании».

Известные математики были приглашены на посты в совет в количестве девяти человек. Интересно, что только один из них — Камилло Де Леллис, сотрудник самого IAS — подписал ранее упомянутое открытое письмо от имени группы лауреатов премии полей. Этот факт мог быть сигналом о том, что компания старается сохранить лицо среди наиболее критикуемых учёных, не исключая их из процесса, но и не давая им решающего голоса в операционных вопросах.

Технический аспект: что значит «разрешить проблему»

Для понимания масштаба заявления важно разделить два понятия: решение задачи и верификация этого решения. В традиционной математике решение задачи (например, существование гладких решений уравнений Навье-Стокса для любых начальных условий) требует доказательства, проверенного людьми в течение десятилетий.

Термин «разрешить» применительно к ИИ часто означает генерацию доказательства с использованием машинного обучения или нейросетей, способных обрабатывать огромные объёмы символов быстрее человека. Однако «разрешить» не всегда означает «публично доказать» в смысле, понятном всем математикам. Совет OpenAI, вероятно, будет tasked с тем, чтобы оценивать, насколько близко полученные модели результатов к общепринятым стандартам доказательства, и координировать процесс их превращения в признанную науку.

Наличие совета не отменяет необходимости критического мышления. Учёные всё ещё могут скептически относиться к утверждению, что 101+ проблема решена в рекордные сроки, без видимых публикаций в рецензируемых журналах. Советы и группы по этике, созданные технологическими компаниями, часто попадают в категорию «зелёного света» — они существуют для имиджа и контроля за этическими рамками, но не могут остановить бизнес-логику, движущую компанию к доминированию в технологическом ренессансе.

Создание совета в Принстоне — это шаг к легитимизации усилий OpenAI в глазах академического мира. Однако пока баланс сил остаётся на стороне скорости и вычислительной мощности компании, а не на стороне традиционной осторожности математиков.