Почему появление искусственного сверхинтеллекта может обернуться концом человечества? И возможно ли предотвратить катастрофу?

В 2023 году сотни авторитетных специалистов по ИИ подписали открытое письмо с предупреждением: человеческой цивилизации угрожает реальная и исключительной серьезности опасность. Но государства и компании не сбавляют темп в гонке за системами, которые превзойдут человека по интеллекту, хотя мир почти не готов к последствиям такого скачка.

В течение нескольких десятилетий двое подписантов того обращения — Элиезер Юдковский и Нейт Соарес — разбирали, как может мыслить и действовать сверхинтеллект. Их выводы мрачны: конфликт целей продвинутого ИИ и людей почти неизбежен, и в этом столкновении у человечества нет шансов на победу. Почему и какими путями сверхинтеллект способен стереть с лица Земли наш вид? Что необходимо сделать, чтобы выжить? Авторы четко, подробно и наглядно излагают свои аргументы и призывают каждого всерьез задуматься об экзистенциальной угрозе, нависшей над всеми нами — пока еще не поздно.