Google изменила взгляд на использование ИИ в военных целях.
Американская корпорация Google исключила из своих принципов разработки искусственного интеллекта положение, которое предписывало избегать использования этой технологии в потенциально опасных для человека целях, включая оружие. Об этом сообщило агентство Bloomberg.
На странице, посвященной принципам разработки ИИ, ранее был абзац под названием «Приложения ИИ, которые мы не будем развивать». Сейчас он отсутствует, а сама статья обновлена 19 часов назад.
Ранее в этом разделе упоминались «технологии, которые наносят или могут нанести общий вред», о чем свидетельствуют скриншоты из веб-архивов, на которые ссылается Bloomberg. Теперь эти упоминания отсутствуют. В ответ на просьбу прокомментировать изменения представитель Google направил в агентство ссылку на заявление из блога компании, где 4 февраля старший вице-президент Google Джеймс Манийка и глава лаборатории Google по разработке ИИ DeepMind отметили: «Мы считаем, что демократии должны лидировать в разработке ИИ, руководствуясь такими важными ценностями, как свобода, равенство и уважение прав человека». Они подчеркнули, что компании, правительства и организации, разделяющие эти ценности, должны сотрудничать для создания ИИ, который защищает людей, способствует глобальному росту и поддерживает национальную безопасность.
Маргарет Митчелл, бывший руководитель команды Google по этике в разработке ИИ, заявила, что удаление пункта о технологиях, способных нанести вред, может повлиять на направления работы корпорации. «Google теперь, вероятно, будет работать над прямым внедрением технологий, которые могут убивать людей», — сказала она.
Один из ключевых спонсоров администрации нового президента США Дональда Трампа и основатель компаний Tesla и SpaceX Илон Маск уже в 2015 году подписал открытое письмо с предупреждением о гонке вооружений с участием искусственного интеллекта. Письмо подписали более 1 тыс. известных ученых, бизнесменов и экспертов в области искусственного интеллекта, включая профессора физики Стивена Хокинга.
Авторы письма заявили, что искусственный интеллект может быть использован на поле боя для повышения безопасности военнослужащих, но применение наступательных вооружений с ИИ приведет к увеличению человеческих потерь.
Как сообщалось в Bloomberg, чат-боты с искусственным интеллектом уже способны содействовать пользователям в создании биологического оружия. Биохимик Рокко Касагранде предупреждал Белый дом о способности ИИ идентифицировать биологические агенты, основываясь на тестировании чат-бота Claude, который предложил применять патогены в ракетах.
