Автор:
Спросите почти любого политика в области науки или представителя фонда, финансирующего исследования, что он думает об искусственном интеллекте, и вы получите знакомый ответ. ИИ трансформирует методы работы ученых. Он ускоряет обзоры литературы, обрабатывает наборы данных в ранее невообразимых масштабах, помогает в написании и рецензировании научных статей. Это замечательный инструмент повышения производительности, и он становится все более незаменимым.
Это не ошибка. Но это может быть неполно.
Увлеченность ИИ как инструментом для ученых (то, что мы могли бы назвать «узким взглядом» на ИИ в науке) незаметно вытесняет более фундаментальный набор вопросов. Вопросов, которые сообщество организаций и учреждений, ответственных за управление, финансирование и координацию науки во всем мире (то, что я буду называть организованной наукой), едва начало задавать.
В науке преобладает дискуссия об ИИ, которая, по сути, сводится к об ускорении. ИИ может делать больше и быстрее. Он может находить закономерности в данных, которые человек мог бы упустить. Он может составлять, переводить, обобщать. Это реальные преимущества, и научное сообщество справедливо уделяет им внимание.
Но такая трактовка подразумевает, что ИИ — это нечто, что должны изучать ученые. используют Это сложный инструмент, во многом похожий на микроскоп или секвенсор, только более универсальный. А когда инструментом является рамка, задавать некоторые вопросы становится сложнее.
Что произойдет, если ИИ будет не просто помогать в исследовательском процессе, но и... дирижирует Что произойдет, если ИИ не только обработает данные, но и сформулирует гипотезы, разработает эксперименты и более или менее автономно интерпретирует результаты? Это не далекий научно-фантастический сценарий. уже опубликованные примеры Системы искусственного интеллекта генерируют новые научные гипотезы с минимальным участием человека, а ведущие мировые разработчики ИИ описывают исследования в области полностью автономного ИИ как вопрос нескольких лет, а не десятилетий.
Чтобы ясно понять, что поставлено на карту, полезно различать два основных сценария.
В первом случае – наука, возглавляемая человеком – Искусственный интеллект проникает на каждый этап исследовательского процесса, но ученые-люди по-прежнему остаются у руля. Люди по-прежнему решают, что исследовать. Они по-прежнему определяют исследовательскую повестку, формулируют вопросы и определяют направление исследования. Даже если большая часть фактических исследований проводится с помощью ИИ, рука человека все еще находится за рулем, решая, куда двигаться. Примерно так обстоят дела сегодня, хотя уровень участия ИИ быстро растет.
Во втором – Наука, основанная на искусственном интеллекте – Искусственный интеллект не только проводит исследования, но и решает, что именно исследовать. Повестка дня исследований больше не определяется исключительно людьми. Системы ИИ все чаще формируют вопросы, выдвигают гипотезы и определяют приоритетность экспериментов, переходя от простого выполнения к определению повестки дня. Будущие достижения, такие как включение физического ИИ и роботизированных лабораторных систем, могут еще больше углубить этот сдвиг, позволяя моделям напрямую участвовать в экспериментах, а не только в анализе. Как это будет выглядеть на практике, остается действительно неясным. Но уже высказывалось предположение, что Наука, основанная на искусственном интеллекте, может выглядеть совсем иначе, чем всё, что мы знаем сегодня.Это потенциально может изменить не только темпы развития науки, но и лежащую в её основе логику: цикл человеческого любопытства, предположений и экспериментального проектирования, который определял производство знаний на протяжении веков.
Именно в промежутке между этими двумя сценариями и кроются самые интересные вопросы.
Когда системы искусственного интеллекта способны проводить исследования автономно, возникает ряд фундаментальных вопросов, выходящих далеко за рамки этических норм или политики раскрытия информации. Среди них:
Может ли искусственный интеллект генерировать действительно новые знания? Большинство современных моделей обучаются на огромных массивах уже имеющихся человеческих знаний. Могут ли они сделать действительно новые выводы о природе Вселенной, или же это, в конечном счете, сложные системы для рекомбинации уже известных фактов?
Что произойдет с институционализированной наукой? Если исследования могут проводиться полуавтономно с помощью ИИ, означает ли это, что любой может фактически «быть» учёным? Останется ли университет и научно-исследовательский институт в том виде, в каком мы их знаем, основным местом производства знаний? И если да, то будет ли роль учёного всё больше смещаться в сторону проверки, такой как проверка фактов, воспроизведение и подтверждение результатов, полученных с помощью ИИ, а не в сторону научных открытий?
Как нам завоевать доверие к знаниям, созданным с помощью ИИ? Научное сообщество на протяжении веков разрабатывало набор норм и механизмов для проверки знаний — рецензирование, воспроизведение результатов, открытые данные и т. д. Эти механизмы были разработаны для научных исследований, проводимых человеком. Они могут не совсем точно соответствовать научным исследованиям, проводимым искусственным интеллектом.
Способствует ли открытая наука непреднамеренному расширению возможностей частного сектора в науке? Переход к открытому доступу и открытым данным в целом считается положительным явлением. Однако растущая доступность научных знаний в открытом доступе также означает, что коммерческие технологические компании могут свободно использовать их для обучения и совершенствования своих моделей искусственного интеллекта. Это создает потенциальное противоречие между идеалом науки как глобального общественного блага и риском появления новой системы генерации знаний, которая будет все менее подотчетна мировому научному сообществу.
Неприятная реальность заключается в том, что организации и институты, ответственные за управление наукой, по-видимому, в значительной степени отсутствуют в этом обсуждении. Многосторонняя система, что вполне понятно, сосредоточена на этике и управлении ИИ. Отдельные спонсоры исследований и университеты сосредоточены на обновлении своей политики ответственного использования инструментов ИИ. Это необходимые меры в ответ на неотложные проблемы.
Однако более масштабные вопросы о будущем природы науки, будущей роли исследователей, будущем производства знаний как общественного блага в значительной степени остаются без внимания на институциональном уровне. Проект «Будущее научных систем» Проект Международного научного совета — один из таких проектов, пытающийся изучить некоторые из них, исследуя, как новые технологии меняют научные системы в странах Глобального Юга. Но подобные дискуссии по-прежнему встречаются слишком редко.
Тем временем, ИИ быстро внедряется исследователями на местах, зачастую значительно опережая любые институциональные рекомендации. Это выявляет реальное несоответствие: руководитель организованной науки все еще пытается понять, что такое ИИ и как он может изменить ситуацию, в то время как работа над ним уже идет полным ходом.
Говоря прямо, не спим ли мы за рулём?
Суть здесь не в том, что мы можем или должны замедлить внедрение ИИ в науку. И это не призыв к отчаянию. Это призыв к организованной науке отвлечься от ближайшей перспективы и взглянуть на ситуацию в долгосрочной перспективе – задать себе вопрос не только «как мы можем ответственно использовать ИИ сегодня?», но и «какую научную систему мы хотим видеть через десять или двадцать лет, и что потребуется для ее создания?»
Это означает создание пространства для иного рода дискуссий, объединяющих экспертов, которые глубоко осмысливают неопределенность, долгосрочный процесс производства знаний и ограничения существующих концептуальных рамок. Эти дискуссии будут в меньшей степени сосредоточены на мерах управления в отношении ИИ в его нынешнем виде, а в большей степени — на спектре возможных сценариев будущего и на том, что значит быть к ним готовым.
Это также означает обеспечение научного сообщества, включая исследователей и политиков, концептуальными инструментами для участия в решении этих вопросов в качестве информированных участников, а не субъектов изменений. К ним относятся концепции осмысления роли ИИ, эпистемология знаний, генерируемых машинами, и долгосрочные последствия для того, кто контролирует исследовательскую повестку дня.
Возможность опередить события сужается. Организованная наука имеет возможность, и, возможно, даже обязанность, формировать то, как ИИ преобразует производство знаний, а не просто адаптироваться к изменениям, инициированным исключительно другими.
Начинается это с того, что мы задаём правильные вопросы. Мы пока их не задаём.
Фото Игорь Омилаев on Unsplash
Подробнее о современной науке: геостратегические, технологические и социальные факторы перемен. Узнайте больше о влиянии данных и ИИ на научную продукцию. 
Подробнее о запуске Тихоокеанской академией наук первой в истории исследовательской платформы на основе искусственного интеллекта и региональном отчете об оценке НИОКР. 
