Двадцать четыре лауреата Филдсовской премии подписали открытое письмо с критикой методов OpenAI и других ИИ-компаний в математических исследованиях. Ученые предупреждают, что гонка за решением сложнейших задач с помощью искусственного интеллекта может навредить математической науке, если получение правильного ответа станет важнее понимания того, как и почему он был получен.
Поводом для публичной дискуссии стало заявление OpenAI о решении задачи Навье — Стокса — одной из семи «задач тысячелетия», пишет The Economist.
Компания представила 166-страничную работу, созданную при помощи внутренних моделей OpenAI, которые пока недоступны широкой публике. При этом, отмечает издание, в работе практически не объясняется, каким образом ИИ пришел к полученному результату.
Именно такой подход вызывает беспокойство математиков. По их мнению, технологические компании все чаще используют сложные математические проблемы прежде всего как тест возможностей своих моделей, тогда как само решение задачи является лишь частью научного процесса.
В открытом письме говорится, что подобный подход «вредит математической науке и математическому сообществу». Авторы подчеркивают: цель математики заключается не только в получении правильного ответа, но и в понимании, которое приводит к появлению новых идей и методов.
«Мы слишком хорошо научились оптимизировать», — заявил один из подписантов письма, лауреат Филдсовской премии Теренс Тао.
Другой лауреат, Уго Дюминиль-Копен, сравнил использование ИИ для получения математических результатов с восхождением на Эверест: высадить человека на вершину с воздуха — не то же самое, что самостоятельно пройти весь путь наверх.
The Economist отмечает, что опасения из-за новых технологий возникали и раньше — от появления шариковых ручек до распространения калькуляторов — и зачастую оказывались преувеличенными. Однако в случае с ИИ существует проблема так называемой «когнитивной разгрузки»: люди все чаще передают внешним инструментам задачи, связанные с запоминанием и размышлением.
Исследования, которые приводит издание, показывают, что поисковые системы уже стали для людей своего рода внешней памятью, а интенсивное использование ИИ связывают с более слабыми навыками критического мышления.
Для абстрактной математики этот вопрос особенно важен. Если машины смогут массово создавать доказательства, которые люди способны проверить, но не способны по-настоящему понять, математика рискует потерять одну из своих главных целей — человеческое понимание того, почему полученный результат верен.