Сверхразумным искусственным интеллектом невозможно полноценно управлять. Об этом заявили ученые, опубликовав свои доводы в научном журнале Journal of Artificial Intelligence Research.
Эксперты отметили, что со сверхразумным ИИ есть проблемы. Он может превзойти не только интеллект остальных машин, но и человеческий. Если он получит доступ к интернету, может наступить утопия. Чтобы более подробно разобраться в вопросе, ученые использовали принципы моделирования и информатики. Ученые пришли к выводу, что попытаться сдержать искусственный интеллект можно специальными алгоритмами, которые отключают ту или иную функцию системы.
При этом ученые говорят о том, что алгоритм сдерживания очень уязвим. Он может в процессе работы отключать сам себя. Это приводит к тому, что в некоторых ситуациях он неприменим.