Connect with us

Hi, what are you looking for?

Интресное и непознанное

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

Anthropic и правительство США проверяют искусственный интеллект на утечку ядерных секретов

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.

You May Also Like

Авто-мото

Корпорация Toshiba в сотрудничестве с японским брендом Sojitz и ведущим мировым производителем ниобия, фирмой CBMM, представила в Бразилии электрический автобус-прототип с установленным аккумулятором Toshiba...

Интресное и непознанное

Сегодня я хочу поделиться с вами топ-10 самых популярных и интересных мест для рыбалки на великолепной реке Волге. Итак, хватайте рыболовные снасти и давайте...

Авто-мото

Китайский автомобильный производитель легковых автомобилей Geely представил обновленную модель Coolray, которая получила переработанный дизайн и иной силовой агрегат. Новая версия Geely Coolray получит приставку...

Авто-мото

В ГАИ по Свердловской области рассказали о наезде автомобилиста на 11-летнего ребёнка на велосипеде. Об этом сообщает URA.RU со ссылкой на пресс-службу ведомства. «Водитель...