Автор Алексей ITBro 
Руководитель компании Anthropic Дарио Амодеи выступил с призывом пересмотреть стремительное развитие технологий искусственного интеллекта.
По его мнению, нынешняя гонка между крупнейшими технологическими компаниями может привести к появлению слишком мощных систем раньше, чем человечество успеет подготовиться к возможным последствиям.
Амодеи не предлагает полностью остановить исследования в сфере ИИ. Речь идет о более осторожном подходе, при котором скорость создания новых моделей будет сопоставляться с уровнем их безопасности, надежности и управляемости.
Может быть интересно: Что делать если курсы по IT дорогие, а учиться очень хочется: бесплатные курсы, обучение, чаты
Глава Anthropic считает, что индустрии необходимо уделять больше внимания проверке технологий, а не только улучшению их производительности.
Почему развитие искусственного интеллекта вызывает тревогу
За последние годы системы искусственного интеллекта заметно продвинулись вперед.
Современные модели способны работать с текстами, изображениями и программным кодом, поддерживать диалог, обобщать большие объемы информации и помогать специалистам в самых разных областях.
При этом новые версии ИИ появляются все чаще, а конкуренция между разработчиками становится все жестче.
Компании стремятся быстрее выпускать более мощные продукты, чтобы занять лидирующие позиции на рынке. Инвестиции в отрасль растут, вычислительные мощности увеличиваются, а разработчики активно совершенствуют алгоритмы.
Однако, по словам Амодеи, подобная гонка создает ситуацию, в которой коммерческие интересы могут начать опережать работу по оценке рисков.
Особую обеспокоенность вызывают системы, которые способны самостоятельно выполнять сложные задачи, анализировать данные, создавать программный код и взаимодействовать с различными цифровыми инструментами.
Чем шире становятся возможности таких моделей, тем сложнее заранее определить, как именно они будут использоваться людьми и какие ошибки могут допустить. ### Речь идет не о полном запрете технологийПризыв Дарио Амодеи не означает, что он выступает против искусственного интеллекта или считает необходимым остановить все исследования.
Anthropic сама занимается созданием передовых ИИ-моделей и относится к числу заметных участников отрасли. Поэтому позиция ее руководителя связана прежде всего с необходимостью сделать развитие технологии более контролируемым. Амодеи предлагает не отказываться от прогресса, а изменить приоритеты.
По его мнению, разработчики должны заранее изучать поведение новых систем, проверять их на устойчивость к злоупотреблениям и оценивать возможные последствия применения. Если модель становится значительно мощнее, одного тестирования ее удобства и точности уже недостаточно. Важную роль, как считает глава Anthropic, должны играть независимые проверки и прозрачные правила.
Компаниям необходимо объяснять, какие ограничения есть у их продуктов, в каких ситуациях модели могут ошибаться и какие меры применяются для предотвращения опасного использования.
Такой подход позволит пользователям и государственным структурам лучше понимать реальные возможности ИИ.
Как можно сделать гонку ИИ более безопасной
Одним из возможных решений Амодеи считает замедление темпов разработки наиболее мощных систем. Это не обязательно должно выражаться в полном прекращении работ.
Более осторожная стратегия может предполагать увеличение сроков тестирования, более строгие критерии выпуска и поэтапное предоставление доступа к новым моделям. При таком подходе разработчики смогут тщательнее проверять искусственный интеллект в различных условиях.
Важно оценивать не только то, насколько хорошо система отвечает на стандартные запросы, но и то, как она ведет себя при попытках обойти ограничения, получить запрещенную информацию или использовать ее для вредоносных целей.
Не менее значимой задачей становится создание общих стандартов для всей отрасли.
Если каждая компания будет самостоятельно определять, какой уровень риска допустим, безопасность окажется зависимой от внутренних решений отдельных организаций.
Единые требования помогли бы сделать проверки более последовательными и снизили бы вероятность того, что опасные разработки будут ускоренно выводиться на рынок. ### Ответственность должна быть общейДарио Амодеи подчеркивает, что вопросы безопасности ИИ нельзя оставить только на усмотрение самих технологических компаний.
В обсуждении должны участвовать государственные органы, независимые исследователи, специалисты по кибербезопасности, представители бизнеса и общества. Только совместная работа позволит выработать правила, которые будут учитывать интересы разных сторон. Государствам предстоит определить, какие области требуют особого контроля и какие риски нельзя игнорировать.
Это может касаться использования ИИ в обороне, здравоохранении, финансовом секторе, государственных услугах и других сферах, где ошибки системы способны привести к серьезным последствиям. При этом чрезмерно жесткое регулирование также может создать проблемы.
Если правила окажутся слишком сложными или будут сильно ограничивать исследования, инновации могут переместиться в менее прозрачные юрисдикции.
Поэтому, по мнению экспертов отрасли, регулирование должно одновременно защищать общество и сохранять возможности для полезных разработок. ### Что может произойти при слишком быстром развитииОдним из главных рисков стремительной гонки считается недостаточная изученность новых моделей.
Система может демонстрировать высокую эффективность в одних задачах, но при этом неожиданно вести себя в других. Даже разработчики не всегда способны заранее предсказать все варианты поведения сложных алгоритмов. Кроме того, мощные ИИ-инструменты могут применяться не только для повышения производительности.
Их можно использовать для создания дезинформации, автоматизации мошеннических схем, поиска уязвимостей в цифровых системах и подготовки вредоносного контента. Чем доступнее становятся такие технологии, тем больше потенциальных злоумышленников получают возможность ими воспользоваться.
Еще одна проблема связана с ошибочной уверенностью пользователей.
Ответы искусственного интеллекта могут выглядеть убедительно, даже если содержат неточности или выдуманные сведения.
В сферах, где требуется высокая точность, подобные ошибки способны привести к финансовому ущербу, неверным решениям или угрозе безопасности людей. Поэтому Дарио Амодеи предлагает рассматривать развитие ИИ не как обычную технологическую гонку, где победителем становится тот, кто первым выпустил более мощную модель.
Важнее, чтобы новые системы были понятными, проверяемыми и управляемыми. Скорость сама по себе не должна становиться главным показателем успеха. Позиция руководителя Anthropic отражает более широкий спор о будущем искусственного интеллекта.
Одни специалисты считают, что ускорение разработок поможет быстрее решить глобальные проблемы и повысить эффективность экономики.
Другие предупреждают: без достаточного контроля быстрый прогресс может создать угрозы, справиться с которыми будет значительно сложнее.
Главный вопрос заключается не в том, нужно ли развивать ИИ, а в том, каким образом это делать. Если компании и государства смогут выстроить баланс между инновациями и осторожностью, искусственный интеллект принесет больше пользы и будет вызывать меньше опасений.
Но для этого участникам рынка придется отказаться от безусловной ориентации на скорость и уделить безопасности такое же внимание, как производительности.