Как подготовиться к рискам от ИИ с помощью «если-тогда» обязательств

Привет, меня зовут Сергей Мазур, и это ежедневный обзор использования нейросетей для улучшения бизнеса от сервиса Иноватсон — платформы поддержки отдела продаж на основе контроля качества звонков.

Что такое «если-тогда» обязательства и зачем они нужны?

В последние годы «если-тогда» обязательства становятся важным инструментом для подготовки к рискам, связанным с искусственным интеллектом (ИИ), без замедления развития новых технологий. Более высокий уровень интереса и внимания к этим обязательствам может ускорить создание зрелой структуры для управления рисками. 💼➡️💥

Организация Carnegie California уделяет внимание роли субнациональных регионов как глобальных игроков и рассматривает вопросы, связанные с Азией, технологиями, миграцией, демократией и изменением климата в одном из самых важных регионов мира — Западной Америке.

Риски от ИИ: что может произойти?

Искусственный интеллект может представлять собой широкий спектр катастрофических рисков для международной безопасности, включая распространение киберугроз и возможность разработки химического или биологического оружия массового поражения. Даже самые мощные модели ИИ сегодня не могут представлять такую угрозу, но в ближайшие годы нас могут ожидать быстрые и непредсказуемые изменения в способностях ИИ. Поэтому как компании, так и правительства стремятся найти способы подготовиться к таким рискам без ненужной задержки в развитии технологий.

Как работают «если-тогда» обязательства?

Эти обязательства формулируются следующим образом: «Если ИИ модель обладает способностью X, то меры по снижению рисков Y должны быть внедрены». И, при необходимости, мы задержим развертывание или разработку ИИ, чтобы гарантировать, что меры предосторожности будут готовы вовремя. Например: «Если ИИ модель может обучить новичка созданию оружия массового поражения, мы должны убедиться, что у потребителей нет простых способов получить от модели такие инструкции». 🤔

«Если-тогда» обязательства могут быть добровольно приняты разработчиками ИИ и, потенциально, могут быть обязательными для соблюдения регуляторами. Такие обязательства могут помочь снизить риски от ИИ двумя основными способами:

• Создание и тестирование прототипов, а также разработка консенсуса вокруг потенциальной структуры регулирования;
• Помощь разработчикам ИИ и другим сторонам в создании дорожных карт, показывающих, какие меры по снижению рисков необходимо внедрить и когда.

Принятие таких обязательств не требует согласия на то, что основные риски от ИИ являются неизбежными — это поляризующая тема. Важно только, что определенные ситуации потребуют определенных мер предосторожности, если они произойдут.

Кто уже работает с «если-тогда» обязательствами?

Три ведущие компании — Google DeepMind, OpenAI и Anthropic — уже опубликовали относительно подробные структуры, основанные на этом принципе. Шестнадцать компаний объявили о своем намерении создать аналогичные рамки к предстоящему AI Action Summit в 2025 году во Франции. Также схожие идеи обсуждались на Международных диалогах по безопасности ИИ в марте 2024 года и на Саммите по безопасности ИИ в Великобритании в ноябре 2023 года.

В большинстве обсуждений «если-тогда» обязательств на данный момент акцент делается на добровольных обязательствах со стороны компаний, но данная статья рассматривает общую структуру как полезную для различных участников с различными механизмами соблюдения.

Преимущества и недостатки «если-тогда» обязательств

Данная статья объясняет ключевые идеи, стоящие за «если-тогда» обязательствами, с помощью детального примера, касающегося способности ИИ модели обучать новичка созданию химического или биологического оружия. Затем рассматриваются некоторые ограничения этих обязательств и предлагается, как различные участники, включая правительства и компании, могут способствовать созданию надежной и исполняемой системы «если-тогда» обязательств.

Преимущества:

• Создание четкой и актуальной цели для проектирования оценок ИИ.
• Эксперименты с различными подходами к оценке способностей ИИ и достаточности мер безопасности.
• Помощь разработчикам ИИ в планировании и приоритизации мер по снижению рисков.

Недостатки:

• Обязательства «если-тогда» очень новы, и у нас мало зрелой науки, на которую можно было бы опираться.
• Волонтерские обязательства вряд ли смогут снизить риски.
• Невозможно полностью исключить возможность того, что данный ИИ имеет критические способности.

Что дальше?

В долгосрочной перспективе успех «если-тогда» обязательств, вероятно, будет зависеть от создания экосистемы квалифицированных внешних аудиторов и от того, будут ли эти обязательства поддержаны нормативными актами. В будущем мы можем ожидать, что все больше институтов начнут публиковать добровольные «если-тогда» обязательства, включая не только компании ИИ, но и правительства и гражданские институты.

Хотите увеличить прибыль с помощью ИИ? Переходите на наш сайт: /

Каждый из нас может принять участие в создании безопасного ИИ, задавая вопросы и проявляя интерес к развивающейся структуре «если-тогда» обязательств. 💬