Наделение систем искусственного интеллекта религиозной силой и передача этим моделям способности людей принимать решения были названы генеральным директором OpenAI Сэмом Альтманом серьезной угрозой безопасности.
В субботу Альтман заявил на базирующейся в США платформе X, что выступает против наделения моделей искусственного интеллекта религиозным авторитетом. Он также сказал, что его беспокоит передача человеческого суждения этим системам.

Anthropic изучает сознание искусственного интеллекта
Это заявление прозвучало после публикаций о частных встречах конкурирующей компании Anthropic с мыслителями в области религии и философии.
Как сообщила The New York Times, на встречах обсуждалось, могут ли системы искусственного интеллекта, такие как Claude, обрести сознание и как религиозная мысль может влиять на поведение этих систем.

Кроме того, Anthropic изучает, могут ли передовые системы искусственного интеллекта испытывать переживания, требующие моральной оценки. Компания называет это направление «благополучием моделей».
Сулейман обозначил границы для систем искусственного интеллекта
Генеральный директор Microsoft AI Мустафа Сулейман также предупредил о разработке систем искусственного интеллекта, которые выглядят так, будто обладают сознанием.

Сулейман заявил, что убеждение людей в том, будто искусственный интеллект испытывает субъективные переживания, может создать новые риски. Он поддержал подход «гуманный искусственный интеллект», согласно которому системы ИИ должны оставаться инструментами, созданными для служения людям, а не существами с собственными интересами.