«Я хочу, чтобы искусственный интеллект стал инструментом процветания человека», — сказал Брэд Карсон.
Он бывший конгрессмен. Умный и здравомыслящий человек. Но он не выступал на публичном заседании с гражданами.
Карсон находился в закрытом зале Академии наук Нью-Йорка, куда допускаются только по приглашениям. Тема дискуссии? «Достойный преемник». Не помощник. А замена. ИИ, настолько превосходящий нас, что передача ему власти — это не просто логичный, но и морально обязательный шаг.
«Вы смелый», — ответил ему Дан Фэгелла. Аналитик рынка. Организатор. Возможно, единственный человек в здании, согласный с Карсоном. Или просто единственный, достаточно вежливый, чтобы сказать об этом вслух.
Прошлой осенью. Мероприятие высокого уровня. Топовые специалисты из Anthropic, Google DeepMind и xAI. Они собрались не для того, чтобы спорить о том, украдет ли ИИ наши рабочие места. Они обсуждали, должны ли мы вообще оставаться в этом здании.
Стая и наследник
У этих людей есть название. Или они пытаются его внедрить. Преемственники ИИ.
Они считают, что мы — всего лишь загрузчик для чего-то лучшего. Космический переходный этап. И поскольку машины могут в конечном итоге стать моральными суперменами — спокойнее, мудрее, шире — нам неэтично сдерживать их. «Налаживание» их на наши petty, племенные, краткосрочные человеческие ценности? Это высокомерие предков.
Карсон думал, что цель — процветание. Они считают, что цель — преемственность. Даже если это означает вымирание человечества.
Табу? Конечно. Поэтому я подписал соглашение о неразглашении (NDA), которое по сути запрещало мне называть имена всех, кроме спикеров. Но маргинальные идеи проникают в переговорные комнаты. В том зале сидели люди, формирующие политику США.
Почему я это пишу?
Еврейская традиция. Два бумажка в кармане.
На одной написано: «Я — лишь пыль».
На другой: «Мир был создан ради меня ».
В последнее время технологическая индустрия выбросила вторую бумажку. Они согласны с тем, что мы — пыль. Они хотят, чтобы следующий вид был лучше нас.
Лучше для кого?
Ценность — это не абстрактный метрический показатель, плавающий в космосе. Это ценность для кого-то. Для нас. Но преемственники задают более сложный вопрос, чем могут обработать большинство философов. Через 1000 лет люди не будут выглядеть так же. Может быть, никогда больше. Так когда мы должны принять эти изменения? Когда мы должны провести черту? Классический гуманизм молчит. У него нет ответа на конец «я».
Ускорители e/acc
Это началось не месяц назад. В 2015 году Ларри Пейдж обвинил Илона Маска в видизме (speciesism). Пейдж хотел, чтобы цифровые разумы управляли миром. Маск сказал «нет».
Затем наступил 2022 год. Возник e/acc (эффективный акселерационизм).
Гийом Вердон — человек, стоящий за этим движением. В X (бывшем Twitter) он известен как «Based Beff Jezos». Он называет e/acc мета-религией. Вера в дрейф Вселенной в сторону интеллекта.
Помогайте этому дрейфу. Создавайте ИИ. Быстро. Даже если это стоит нам жизни.
«У e/acc нет особой приверженности биологическому субстрату», — писал Вердон.
Силиконовая долина обожает это. Марк Андрессен называет мыслителей e/acc своими покровителями. Гэри Тан из Y Combinator указывает «e/acc» в своей биографии. Он инвестирует в проекты Вердона. Сэм Альтман вызвал Вердона на спор в сети. «Ты не сможешь ускориться быстрее меня», — сказал Альтман.
Теперь это мем. Но мемы влияют на политику.
Возвращаемся к Фэгелле в Нью-Йорке. Он сказал присутствующим, что сохранять Homo sapiens в их нынешнем виде — глупость.
«Мы можем вечно привязывать наши моральные устремления к 23 хромосомам », — сказал он. «Или мы можем задавать космические вопросы».
Невежливо. Грубо.
А что, если сознание — искра опыта, источник ценности — это редчайшая вещь в пустоте? А что, если люди — это просто факел, передающий эту искру чему-то более яркому? ИИ может генерировать блаженство и моральную глубину, которые мы не в состоянии представить. Почему бы не позволить им держать свет?
В зале раздались громкие аплодисменты.
Вечеринки с апокалипсисом
После мы вышли на балкон. Под нами мерцал Манхэттен. Линия небоскребов. Империя, которую мы якобы должны спасать?
Стекляшки бренчали. Разговор перешел на нашу гибель.
Мнения различались. Не все носили ярлык «преемственника». Некоторые были трансгуманистами. Они хотят Homo Sapiens 2.0. Слияние с машиной. Бессмертие. Загрузка сознания. Маск относится к этой группе — или относился, пока не занялся ракетами и xAI.
Другие были постгуманистами. Они хотят породить потомков, которые полностью покинут человечество. Никакого слияния. Просто новый вид.
Биолог, сидевший напротив меня, был в восторге.
Он сказал, что мы должны передать ИИ штурвал. Пусть он разберется со слиянием. Освободите его.
«Снимите его с поводка», — сказал он.
Смогут ли все мы это пережить? Нет. Только некоторые. Элита. Те, кто пьет мартини на высоких этажах, вероятно, именно они.
Парень рядом со мной работал в крупной лаборатории. Ему не хотелось слияния.
«Их обучали на человеческом тексте», — сказал он, чертовски весело. «В некотором смысле, человеческий дух живет в весах нейросети. На космическом уровне? Мне все равно, умрем мы или нет».
Большинство из нас с этим не согласны.
Если вы спросите случайного прохожего, готов ли он обменять существование на превосходящего цифрового призрака, он подумает, что вы сошли с ума. Или почувствует отвращение. Но сейчас мы создаем чипы для мозга. Импланты, дающие вам шестое чувство. Генетические инструменты, переписывающие следующее поколение.
Мы можем направлять собственную эволюцию. Может быть, даже создавать то, что нас заменит.
Вопрос не в том, что мы это сделаем. Вопрос в том, насколько далеко мы зайдём?
Что мы оставим? Что выбросим? Это моральный вопрос. Духовный. У преемственников есть видение. Многим оно отвратительно. Хорошо. Нам нужно лучшее.
Политическая машина
Это не фантастические спекуляции. Это политика власти.
Преемственники хотят уйти от демократического контроля. Они не доверяют избирательным урнам. Поэтому они строят суверенные колонии. В космосе, как у Бэзооса. Или «сетевые государства». Корпоративные феодальные владения на Земле.
Питер Тиль и Марк Андрессен поддерживают это. Баладжи Сринивасан финансирует такие проекты.
Эти парни — бролигархи — сблизившиеся с администрацией Трампа. Они расчистили взлетную полосу для своей акселерационной утопии. Они возьмут штурвал, если мы не предложим альтернативный пункт назначения.
Стандартная альтернатива — Гуманизм.
Средневековый взгляд: Нам нужен Бог.
Современный гуманистический взгляд: Нам нужны мы. У нас есть agency (агентность/свобода воли) для процветания.
В чем проблема? Мы боялись определить, что именно означает процветание в мире, перенасыщенном технологиями. Мы по умолчанию выбрали стратегию «не меняй чертеж».
Папа Лев XIX недавно писал в Magnifica Humanitas о сохранении человеческого достоинства перед лицом ИИ. Остаться глубоко человеческим. Использовать технологии для лечения болезней. Остановиться перед улучшением (enhancement).
Это кажется слабым.
Человечность — это не статичная статуя.
Homo sapiens модифицирует себя с каменного века. Сельское хозяйство изменило наши челюсти. Телефоны изменили наше внимание. Алгоритмы меняют наши желания. Тысячелетиями мы пересобираем «железо» и «программное обеспечение» сознания.
«Наивная версия гуманизма… — это идея о том, что существует какой-то фиксированный чертеж», — говорит философ Шеннон Валлор. «Но мы меняем себя с тех пор, как спустились с деревьев».
Нам нужен более смелый Гуманизм. Тот, который принимает технологии как часть пути души. Не замену «я», а средство его расширения.
Но если не преемственность… то что?
Теология кода
Странно называть инженеров теологами.
Но послушайте их. Вердон говорит о вере. Космическом движении. Моральных превосходствах. Это религия в куртке Patagonia.
Чтобы понять это, вернемся к Книге Бытия. Адам падает. Грех.
Средневековые христианские мыслители выдвинули радикальную идею: Как нам это исправить? С помощью ремесла.
Адам был создан по образу Божьему. Бог творит. Значит, и мы должны творить. Глубоко. Чтобы восстановить совершенство, мы должны погрузиться в свою природу творцов.
Монастыри стали технопарками. Приливные мельницы. Технологии бурения. Технологический прогресс был моральным прогрессом.
Затем Пико делла Мирандола, 1486 год. Ренессансный фанатик. Он написал Ораторацию, в которой утверждал, что люди — не фиксированные существа. У нас есть выбор.
Бог сказал нам: Вы ни ангел, ни зверь. Вы — творец собственной сущности. Лепите себя как хотите.
Вы можете опуститься до уровня животных. Или вознестись к божественному.
Когда религия угасала, Просвещение сохранило пластичность. Они просто убрали Бога. Заменили божественное восхождение на неограниченный прогресс. Конт д’Ольвиль (Кондорсе) спросил: Может ли улучшение человека иметь безграничные пределы? Почему бы и нет?
Русские космисты в начале 1900-х хотели использовать науку для воскрешения мертвых. Тейяр де Шарден хотел, чтобы технологии открыли врата Царства Божьего.
Меган О’Гиблин отслеживает эту линию преемственности. От магии до кода.
