Что происходит на следующий день после суперинтеллигенности?

С релизом openai в чате GPT-5, мир находится на шаг ближе к тому, чтобы раскрыть общее назначение суперинтеллигентности, которая может когнитивно превосходить каждого из нас с широким отрывом. Когда этот день приближается, я все больше обеспокоен тем, что мы крайне не готовы к шоковым волнам, которые это отправит через общество — и, вероятно, не по причинам, которые вы ожидаете.

Попробуйте этот небольшой эксперимент: Спросите любого, кого вы знаете, если они обеспокоены ИИ, и они, вероятно, будут разделять различные опасения, от огромных сбоев на рынке труда и воздействия глубоких наборов в реальность, до беспрецедентной власти, сосредоточенной на горстке крупных компаний ИИ. Другими словами, большинство людей никогда не предполагали, что их жизнь действительно будет чувствовать на следующий день Супериинтегинность становится широко доступной.

Почему суперреализация может деморализовать нас

Как контекст, искусственная суперинтеллигенность (ASI) относится к системам, которые могут поступать с людьми на большинстве фронтов, от планирования и рассуждений до решения проблем, стратегического мышления и необработанного творчества. Эти системы решат сложные проблемы за долю секунды, которые могут занять самые умные эксперты -эксперты, недели или даже годы. Это меня пугает, и не из -за сценариев Судного дня, которые доминируют в нашем публичном дискурсе.

Нет, я беспокоюсь о противоположных рисках — опасности, которые могут возникнуть в Лучшие сценарии где суперинтеллигентность полезна и доброжелательна. Такой ASI будет иметь много положительных последствий на общество, но он также может быть глубоко деморализует нашу основную идентичность как людей. В конце концов, мир будет чувствовать себя по -разному, когда каждый из нас знает, что на наших мобильных устройствах доступен более умный, более быстрый, более творческий интеллект, чем между нашими ушами.

Так что, честно говоря, спросите себя, как люди будут действовать в этой новой реальности? Будем ли мы рефлексивно обращаться за советом от наших помощников по искусственному интеллекту, когда мы ориентируемся на каждый небольшой вызов, с которым мы сталкиваемся? Или, что еще хуже, мы научимся доверять нашим помощникам по искусственному интеллекту больше, чем наши собственные мысли и инстинкты?

Подождите — прежде чем ответить, вы должны обновить свою ментальную модель. В настоящее время мы занимаемся ИИ через Сократическую рамку, которая требует от нас задавать вопросы и получать ответы (например, капитан Кирк сделал на борту предприятия в 1966 году). Но это мышление старой школы. Сейчас мы вступаем в новую эру, в которой помощники искусственного интеллекта будут интегрированы в тела, которые оснащены камерами и микрофонами, что позволяет ИИ видеть, что вы видите, слышать то, что вы слышите, и прошептайте советы в ваши уши, если вам не нужно спросить.

Другими словами, наше будущее будет заполнено помощниками искусственного интеллекта, которые едут в нашей жизни, увеличивая наш опыт оптимизированным руководством на каждом шагу. В этом мире риск не в том, что мы рефлексивно просим ИИ за советом, прежде чем использовать наш собственный мозг; Риск состоит в том, что нам не нужно будет спросить — совет будет просто входить в наши глаза и уши, формируя наши действия, влияя на наши решения и решение наших проблем, прежде чем у нас появится возможность подумать сами.

«Дополненный менталитет» изменит нашу жизнь

Я называю эту структуру «дополненным менталитетом», и она собирается поразить общество в масштабе через очки, наушники и подвески с двигателем AI. Это будущее мобильных вычислений, и оно уже управляет гонкой вооружений между Meta, Google, Samsung и Apple, поскольку они позиционируют себя для создания устройств AI с контекстом, которые заменят портативные телефоны.

Представьте, что вы идете по улице в вашем городе. Вы видите коллега, направляющегося к вам. Вы не можете вспомнить его имя, но ваш помощник искусственного интеллекта делает. Он обнаруживает ваши колебания и шепчет имя коллеги в ваши уши. ИИ также рекомендует вам спросить коллега о его жене, которая перенесла операцию несколько недель назад. Коллега ценит настроение, затем спрашивает вас о вашем недавнем повышении по службе, вероятно, по совету его собственного ИИ.

Это расширение прав и возможностей человека или потеря человеческой воли?

Конечно, будет похоже на сверхдержаву, чтобы иметь искусственного интеллекта в ухо, у которого всегда есть ваша спина, гарантируя, что вы никогда не забываете имя, всегда имели остроумные вещи, чтобы сказать, и его мгновенно предупреждают, когда кто -то, с кем вы разговариваете, не является правдивым. С другой стороны, у всех, кого вы встречаете, будут бормотать ИИ в своих ушах. Это заставит нас задуматься, кто мы Действительно Взаимодействие с человеком перед нами или агентом ИИ дает им руководство (проверьте Углеродное знакомство для забавных примеров).

Многие эксперты считают, что носимыми на тела помощники ИИ заставят нас чувствовать себя более сильными и способными, но это не единственный способ, которым это может пойти. Эти же технологии могут заставить нас чувствовать себя менее уверенными в себе и менее эффективными в нашей жизни. В конце концов, человеческий интеллект — это определяющая особенность человечества, то, чем мы гордимся как вид, но мы скоро сможем оказаться откладывающимися на помощников искусственного интеллекта, потому что мы чувствуем себя психически опережающими. Это расширение прав и возможностей — ИИ, который Ботспоры Каждый наш опыт в реальном времени?

Я вызываю эти проблемы как человека, который потратил всю мою карьеру, создавая технологии, которые Расширить человеческие способностиПолем От моей ранней работы, разрабатывающей дополненную реальность, до моей нынешней работы по разработке разговорных агентов, которые делают человеческие команды умнее, я твердо верю, что технология может значительно улучшить человеческие способности. К сожалению, когда дело доходит до суперинтелтинга, существует тонкая грань между увеличением наших человеческих способностей и заменив ихПолем Если мы не будем вдумчивы в том, как мы развертываем ASI, я боюсь, что мы переседем эту линию.

Луи Розенберг является ранним пионером виртуальной и дополненной реальности и давним исследователем ИИ. Он основал Immersion Corp, Outland Research и единодушный ИИ.