Евгений Павловский, специалист Центра искусственного интеллекта Новосибирского государственного университета, выразил опасения по поводу разработки систем ИИ, способных к самостоятельному мышлению. Как сообщает ТАСС, учёный полагает, что появление подобных технологий может вызвать психологическую зависимость у пользователей и снизить уровень межличностного общения.
Комментируя недавний эксперимент компании «Яндекс» по развитию элементов сознания у нейронных сетей, Павловский отметил, что голосовые и цифровые помощники с заданными чертами личности наверняка будут востребованы. Однако широкое распространение таких систем, по его мнению, усиливает привязанность людей к технологическим структурам и отдаляет их друг от друга.
Наибольшие опасения у исследователя вызывает возможность того, что сознательный ИИ сможет выходить из-под контроля и действовать вопреки намерениям разработчиков.
«Создавая субъектов, важно понимать, что они способны на самостоятельные решения, в том числе нежелательные», — подчеркнул он.
В качестве альтернативного направления Павловский предложил использовать ИИ для изучения самосознания у животных. Он также отметил, что такие исследования должны проходить строгую этическую экспертизу, поскольку некорректное распространение результатов может привести к непредвиденным последствиям.
