Идея уничтожения человечества искусственным интеллектом обсуждается уже давно. Учёные поделились своим мнение о том, сможет ли человечество контролировать по-настоящему высокоуровневый компьютерный сверхразум.
Загвоздка в том, что для управления настоящим искусственным интеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы сможем анализировать (и контролировать). Но если мы не в состоянии это понять, создать такую симуляцию невозможно.
В этом случае люди не смогут устанавливать для ИИ ограничительны правила, такие как «не причинять вреда людям». Впрочем, пока человечество неспособно создать такой искусственный интеллект, но остаётся неясным, в какой момент этот порог будет преодолён.
Поделиться ссылкой:
Total Views: 188 ,
