Системы искусственного интеллекта от Microsoft, Google, OpenAI и других будут протестированы на DEFCON 31 в августе

Рост генеративного ИИ заставляет многих людей беспокоиться о том, что они не будут вести себя этично и ответственно. Действительно, один из самых высокопоставленных исследователей ИИ в Google, Джеффри Хинтон, недавно покинул компанию, чтобы иметь возможность свободно предупреждать мир о потенциальных опасностях ИИ.

Сегодня вице-президент США Камала Харрис встретится с руководителями четырех ведущих компаний в области разработки ИИ: Сатья Наделла из Microsoft, Сундар Пичаи из Google, Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic. Белый дом говорит, что участники обсудят растущее использование ИИ и «важность внедрения ответственных, надежных и этичных инноваций с мерами предосторожности, которые снижают риски и потенциальный вред для людей и нашего общества».

Администрация Байдена также объявила, что эти четыре компании вместе с Hugging Face, NVIDIA и Stability AI согласились протестировать свои системы искусственного интеллекта на ежегодной конференции DEFCON. DEFCON 31 пройдет в Лас-Вегасе с 10 по 13 августа. В пресс-релизе Белого дома говорилось:

Это независимое мероприятие предоставит исследователям и общественности важную информацию о влиянии этих моделей и позволит компаниям и разработчикам ИИ предпринять шаги для устранения проблем, обнаруженных в этих моделях. Тестирование моделей ИИ независимо от правительства или компаний, которые их разработали, является важным компонентом их эффективной оценки.

Кроме того, США создаст проект документа политики о том, как правительство должно использовать ИИ, и предложит его для общественного обсуждения. Кроме того, Национальный научный фонд добавит 140 миллионов долларов на финансирование семи новых национальных научно-исследовательских институтов искусственного интеллекта, в результате чего число этих групп достигнет 25.