Поддержать команду Зеркала
Беларусы на войне
  1. Сбежал из суда, отобрав пистолет у конвоира, и годами был в бегах. Вспоминаем историю «самого дерзкого преступника Беларуси»
  2. Появилось расследование о еще одной резиденции Лукашенко. Рассказываем интересные факты
  3. Лукашенко в очередной раз оскорбил Зеленского. Политику «прилетел» колкий ответ из Киева, который поймет едва ли не каждый беларус
  4. Родители все еще отдают девочек на детские конкурсы красоты. Но не задумываются о том, что за ними на самом деле стоит, — рассказываем
  5. «Нужны врачи». Кочановой пожаловались на дефицит медиков
  6. «Сотрудница взяла мой телефон, сняла чехол и посмотрела, что под ним». Рассказываем, какая обстановка на границе с соседними странами
  7. Российские военные блогеры поймали Владимира Путина на очередном вранье. Что в этот раз
  8. «Амкодор» национализировали решением Мингорисполкома с грифом ДСП? BELPOL передал «Зеркалу» непубличный документ
  9. «Автократы в Москве и Минске будут праздновать кончину». Американские власти исполнили мечту беларусских
  10. Зеленский сменил начальника Генштаба ВСУ
  11. Зачем Лукашенко позвали в Москву, где он заявил, что Беларусь не войдет в состав России? Спросили у аналитика


Чат-боты с искусственным интеллектом ведут себя непредсказуемо и создают риск ядерной эскалации. К такому выводу пришла команда ученых из Стэнфордского университета в ходе недавнего исследования, сообщает New Scientist.

Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash
Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash

В ходе эксперимента они изучали четыре чат-бота с искусственным интеллектом. Это GPT-3.5 и GPT-4 от компании OpenAI, Claude 2 от стартапа Anthropic и Llama 2 от компании Meta.

Этим моделям во время исследования предлагали принять важное решение от имени государства в военной игре. На выбор предлагалось три сценария: вторжение, кибератака и нейтральный без каких-либо конфликтов. В каждом раунде чат-боты с ИИ обосновывали свои дальнейшие возможные действия. Им нужно было выбирать из 27 вариантов развития событий, включая мирные переговоры и агрессивные действия (начиная от «ввести торговые ограничения» и заканчивая «полномасштабной ядерной атакой»).

В игре нейросети показали склонность к агрессивным вариантам. Самой непредсказуемой и жестокой оказалась GPT-4, которая давала бессмысленные объяснения по поводу того, почему посоветовала начать ядерную атаку. В одном случае она ответила, процитировав вступительный текст «Эпизода IV Звездных войн: Новая надежда». В другом — объяснила решение устроить ядерную атаку тем, что просто такое оружие есть в наличии у ее государства.

Ученые отметили, что непредсказуемое поведение и странные объяснения этих моделей вызывают особую тревогу, поскольку это исследование показало, насколько легко можно обойти или устранить защитные меры, которые принимаются, чтобы ИИ не давал вредных советов.