В преддверии Саммита по безопасности ИИ 2023 ISC выпускает дискуссионный документ, посвященный системе оценки ИИ и быстро развивающихся цифровых технологий.

Ряд ученых и политических экспертов предложили Международному научному совету – с его плюралистическим членством в области социальных и естественных наук – установить процесс создания и поддержания аннотированной структуры / контрольного списка рисков, преимуществ, угроз и возможностей. связаны с быстро развивающимися цифровыми технологиями, включая, помимо прочего, искусственный интеллект. Целью контрольного списка будет информирование всех заинтересованных сторон – включая правительства, участников торговых переговоров, регулирующие органы, гражданское общество и промышленность – о потенциальных сценариях будущего, а также определение того, как они могут рассматривать возможности, выгоды, риски и другие вопросы.

Дискуссионный документ ISC

Структура для оценки быстро развивающихся цифровых и связанных с ними технологий: ИИ, большие языковые модели и многое другое.

В этом дискуссионном документе изложена первоначальная основа для информирования многочисленных глобальных и национальных дискуссий, связанных с ИИ.

Скачать

Присоединяйтесь к обсуждению

Мы призываем вас присоединиться к обсуждению идей, представленных в этой статье, и ее структуры, используя форму внизу страницы.

ISC рад представить этот дискуссионный документ по оценке быстро развивающихся цифровых и связанных с ними технологий. Искусственный интеллект, синтетическая биология и квантовые технологии являются яркими примерами инноваций, основанных на науке, которые появляются беспрецедентными темпами. Систематическое прогнозирование не только их применения, но и последствий может оказаться сложной задачей.

Оценка социальных аспектов генеративного ИИ, таких как большие языковые модели, которые, как и ожидалось, составляют основную часть этого дискуссионного документа, является необходимым мостом в текущем дискурсе – иногда вызванном паникой, иногда недостаточно глубоким в размышлениях – и необходимыми курсами действие, которое мы можем предпринять. ISC убежден, что аналитическая основа между общественным признанием таких новых технологий и их возможным регулированием необходима для облегчения дискуссий с участием многих заинтересованных сторон, которые необходимы для принятия обоснованных и ответственных решений о том, как оптимизировать социальные выгоды от этой быстро развивающейся технологии.

ISC открыт для реакции нашего сообщества через этот дискуссионный документ, чтобы оценить, как лучше всего продолжать участвовать и вносить свой вклад в дебаты вокруг технологий.

Сальваторе Арико, генеральный директор

Авторы статьи:

При разработке этого документа, составленного сэром Питером Глюкманом, президентом ISC, и Хемой Шридхар, бывшим главным научным сотрудником Министерства обороны, а ныне старшим научным сотрудником Оклендского университета, Новая Зеландия, консультировались многие люди. 

В частности, мы благодарим:

• лорд Мартин Рис, бывший президент Королевского общества и соучредитель Центра изучения экзистенциальных рисков Кембриджского университета;
• профессор Шиваджи Сондхи, профессор физики Оксфордского университета;
• профессор К. Виджай Рагхаван, бывший главный научный советник правительства Индии;
• Амандип Сингх Гилл, посланник Генерального секретаря ООН по технологиям;
• д-р Шон О Эйгертай, исполнительный директор Центра изучения экзистенциальных рисков Кембриджского университета;
• Аманда-Джун Браунер, старший советник по вопросам политики, и Ян Виггинс, директор по международным делам Королевского общества Великобритании;
• д-р Жером Дюберри, д-р Мари-Лор Саллес, директор Женевского института последипломного образования;
• г-н Чор Фарн Ли, Центр стратегического будущего, канцелярия премьер-министра, Сингапур;
• Баренд Монс и д-р Саймон Ходсон, Комитет по данным (CoDATA);
• профессор Юко Хараяма, Япония;
• профессор Реми Кирион, президент INGSA;
• д-р Клэр Крейг, Оксфордский университет, бывший руководитель отдела прогнозирования Государственного управления науки; и
• Профессор Йошуа Бенджио, Научно-консультативный совет Генерального секретаря ООН и Университет Монреаля.

Что еще происходит в области искусственного интеллекта в ISC?

Аналитический центр ISC, Центр будущего науки, планирует выпустить рабочий документ «Подготовка научных экосистем для искусственного интеллекта» в начале 2024 года. Этот документ будет включать обзор литературы, карту проблем и серию кратких тематических исследований по странам. Мы надеемся, что этот документ будет способствовать активизации дискуссий среди политиков, лидеров отрасли и исследователей, поскольку они разрабатывают дорожные карты по использованию потенциала ИИ для улучшения науки и исследований.

ИИ для науки: идеи из Азиатско-Тихоокеанского региона 

В начале октября Центр будущего науки ISC отметил поворотный момент в своей последней инициативе по искусственному интеллекту (ИИ) в науке, когда 14 уважаемых делегатов и экспертов, представляющих 12 стран, в основном из Азиатско-Тихоокеанского региона, собрались на своевременную встречу в Куала-Лумпур, Малайзия при поддержке Австралийской академии наук. ➡️Rеще больше

ИИ меняет науку – как? Кому стоит беспокоиться?

Критический взгляд на влияние искусственного интеллекта (ИИ) на науку с разных точек зрения и участников – от государственных спонсоров до частных высокотехнологичных институтов – показывает общую озабоченность отсутствием прозрачности и сотрудничества в создании более ориентированного на человека подхода, который бы реализовать обещания науки как глобального общественного блага. ➡️Rеще больше

Обратная связь с искусственным интеллектом

Пожалуйста, включите JavaScript в вашем браузере, чтобы заполнить эту форму.

ФИО *

Во-первых,

Фамилия

Эл. адрес *

организация

Должность в организации

пол *

• F
• M
• Другой
• Предпочитаю не говорить

В какой стране вы находитесь?

Расскажите нам, что вы думаете о дискуссионном документе ISC «Система оценки быстро развивающихся цифровых и связанных с ними технологий: искусственный интеллект, модели большого языка и не только».

Расскажите нам, что вы думаете о разработке аналитической структуры и аспектах, которые предлагает ISC.

Защита данных: Респонденты должны знать, что ISC будет хранить предоставленную информацию на протяжении всего срока действия инициативы (см.: https://council.science/privacy-policy).

• Респондент согласен со сбором данных.

Приглашаем вас подписаться на информационный бюллетень ISC.

• Я согласен получать информационный бюллетень ISC. Я могу отказаться от подписки в любой момент

Отправить

Изображение: Адамичи на iStock