Как избежать Сингулярности?
Вторая часть знаменитой статьи математика и писателя Вернора Винджа «Технологическая сингулярность».
Ну, а может, Сингулярность вообще не наступит. Порой я пытаюсь представить себе признаки, судя по которым, нам станет понятно, что Сингулярности можно не ждать. Есть популярные и признанные аргументы Пенроуза и Сёрла о непрактичности машинного разума. В августе 1992 года сообщество «Мыслящих Машин» устроило мозговой штурм с целью проверить тезис: «Как построить мыслящую машину?» Как вы уже догадались, из этого посыла следует, что участники эксперимента не слишком-то поддерживали те самые аргументы против машинного разума. В действительности, принималась общая договоренность о том, что разум может существовать на небиологической основе, и что алгоритмы являются важнейшей составляющей для разума. Тем не менее, разгорелись жаркие споры по поводу наличия в органических мозгах аппаратной мощности в чистом виде. Меньшинство придерживалось мнения, что крупнейшие компьютеры 1992 года по мощности отставали от человеческого мозга на три порядка. Большинство же участников соглашалось с подсчетами Ганса Моравеца, по которым выходило, что от аппаратного паритета в этом вопросе нас отделяют еще десять-сорок лет. И все же было еще одно меньшинство предполагавших, что вычислительные способности отдельных нейронов могут быть намного лучше, чем принято считать. Если это так, то наши современные компьютеры отстают аж на десять порядков от того снаряжения, которое скрыто у нас в черепной коробке. Если верен этот тезис (или, в данном случае, если взгляды Пенроуза и Сёрла обоснованы), возможно, мы так никогда и не доживем до Сингулярности. Вместо этого, в начале XXI века обнаружится, что круто вздымавшиеся кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но «сознание» не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингулярности, так и начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век… и конец прогресса. Это будет нечто очень похожее на будущее, предсказанное Гюнтером Стентом, который ясно дал понять, говоря об идее создания надчеловеческого разума, что это станет достаточным условием для того, чтобы его прогнозы не сбылись.
[В предыдущем абзаце не достает того, что я считаю сильнейшим аргументом против вероятности Технологической Сингулярности: даже если мы сумеем создать компьютеры с чистой аппаратной мощью, вероятно, не получится организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Для техноманов-механистов это, по-видимому, выльется в нечто вроде «неспособности решения проблемы сложности программного обеспечения». Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей, а мы никогда не овладеем секретами биологических моделей, которые могли бы помочь воплотить в жизнь «обучение» и «эмбриональное развитие» машин. В конце концов, появится следующий полуфантастический контрапункт Мерфи к закону Мура: «Максимально возможная эффективность программной системы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) подлежащего программного обеспечения». В этом мире без сингулярности будущее программистов уныло и беспросветно. (Представьте себе необходимость одолевать скопившиеся за столетия унаследованные программы!) Так что в последующие годы, полагаю, следует обращать особое внимание на две важнейшие тенденции: прогресс в крупных проектах по разработке программного обеспечения и прогресс в применении биологических парадигм в масштабных сетях и масштабных параллельных системах.]
Но если технологической Сингулярности суждено быть, то она случится. Даже если все государства мира осознают «угрозу» и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество — экономическое, военное, даже в сфере искусства — любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.
Эрик Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем. Но Дрекслер оспаривает способность человечества удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать.
Не соглашусь, что сохранение контроля так уж невозможно. Представьте себя запертым в собственном доме при единственном, ограниченном некими вашими хозяевами канале доступа информации извне. Если бы эти хозяева мыслили со скоростью, скажем, в миллион раз медленнее вас, едва ли стоит сомневаться в том, что через несколько лет (вашего времени) вы изобрели бы способ побега. Я называю эту «быстро мыслящую» форму сверхразума «слабым сверхчеловеческим». Такая «слабая сверхчеловеческая сущность» более чем ускорила бы течение времени эквивалентного человеческому ума. Сложно сказать точно, что будет из себя представлять «сильное сверхчеловеческое», но отличие, по-видимому, будет разительным. Вообразите собаку с чрезвычайно ускорившейся работой мысли. Сможет ли тысячелетний опыт собачьего мышления что-то дать человечеству? Многие предположения о сверхразуме, как кажется, основываются на модели «слабого сверхчеловеческого». Я же думаю, что наиболее верные догадки о постсингулярном мире можно строить на предположениях об устройстве «сильного сверхчеловеческого». К этому вопросу мы еще вернемся.
Другим подходом к проблеме сохранения контроля является идея о создании искуственных ограничений свободы действий сконструированной сверхчеловеческой сущности. [например, Законы роботехники у Азимова]. Я полагаю, что любые правила, достаточно строгие, чтобы обеспечить их эффективность, приведут у созданию устройства с возможностями, очевидно более узкими, чем у нестесненных ограничениями версий (таким образом, соревновательность будет способствовать развитию более опасных моделей).
Если Сингулярность нельзя предотвратить или ограничить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание человеческой расы — одно из возможных следствий. (Или, как сформулировал это Эрик Дрекслер, говоря о нанотехнологиях: со всеми подобными техническими возможностями, вероятно, правительства решат, что простые граждане им больше не нужны). Тем не менее, физическое вымирание может оказаться далеко не самым страшным последствием. Вспомните о разного рода наших отношениях к животным. В постчеловеческом мире по-прежнему останется множество ниш, в которых эквивлентная человеческой автономность будет востребована: встроенные системы в самоуправляющихся устройствах, автономные демоны низшей функциональности в более крупных разумных существах. («Сильное сверхчеловеческое, по-видимому, будет представлять собой Общность Разума из нескольких очень умных компонентов».) Некоторые из таких человеческих эквивалентов могут использоваться исключительно для цифровой обработки сигналов. Прочие могут остаться весьма человекоподобными, хотя и специализированными, с узким профилированием, из-за которого в наше время их поместили бы в психиатрическую клинику. Несмотря на то что никто из этих существ может не быть уже людьми из плоти и крови, они останутся наиболее близкими к современному нам человеку в том новом окружении.
[Уверен, Ирвингу Гуду было бы, что сказать на этот счет (хоть я и не нашел у него упоминаний чего-то подобного). Гуд предложил золотое метаправило, которое можно переформулировать следующим образом: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой». Это чудесный парадокс (и большинство моих друзей этому не верят), так как последствия, подсчитанные согласно теории игр, отчетливо выразить трудно.Тем не менее, если бы мы могли следовать этому правилу, в каком-то смысле это могло бы говорить о распространенности подобных добрых намерений во вселенной.]
Я уже выражал выше сомнение в том, что мы не можем предотвратить Сингулярность, что ее наступление есть неминуемое следствие естественной человеческой соревновательности и возможностей, присущих технологиям. И все же мы — инициаторы. Даже величайшая лавина вызывается мельчайшими действиями. Мы вольны устанавливать начальные условия, чтобы все происходило с наименьшим для нас ущербом.
[Будет ли прок от предвидения и вдумчивого планирования, может зависеть от того, как произойдет технологическая Сингулярность. Будет ли это «резкий переход» или «тихий переход». Резкий переход — это тот, при котором сдвиг к сверхчеловеческому контролю произойдет за несколько сотен часов (как в «Музыке крови» Грега Бэра). Мне представляется, что спланировать что-то в расчете на резкий переход будет чрезвычайно трудно. Он будет подобен лавине, о которой я писал в этом эссе в 1993 году. Наиболее кошмарная форма резкого перехода может произойти из гонки вооружений, когда две державы подстегивают свои отдельные «манхэттенские проекты» с целью добиться сверхчеловеческой мощи. Эквивалент десятилетий шпионажа на человеческом уровне может сжаться в последние несколько часов существования расы, и весь человеческий контроль и рассудительность пасуют перед некими чрезвычайно деструктивными целями.
С другой стороны, «тихий переход» может занять десятки лет, возможно, более века. Такая ситуация кажется более поддающейся планированию и вдумчивому экспериментированию. Ганс Моравец рассматривает такой «плавный переход» в книге «Робот: от простой машины к сверхразуму»].
Конечно (как и в случае с лавинами), нельзя с уверенностью судить, каков именно на самом деле будет тот самый направляющий толчок.
Конец второй части
Звезды профессора Молнара
Знали ли Вы, что уже в 2022 году каждый из нас, подняв взор к ночному небу, сможет невооруженным глазом наблюдать на нем радикальные изменения. Все дело в том, что две звезды в созвездии Лебедя, которые вращаются друг вокруг друга, образуя тем самым двойную звезду, в указанный год сольются воедино, что будет сопровождаться взрывом вселенских масштабов. Такое предсказание сделал Ларри Молнар – профессор колледжа Кальвина (Женева, Швейцария). Как считает Молнар, шанс сделать такое предсказание равен примерно 0,000001%, однако его расчеты якобы точны как никогда. Профессор утверждает, что за некоторое время до столкновения звезд их яркость повысится примерно десятки тысяч раз, а потому они в течение какого-то времени станут самыми заметными на нашем ночном небе и наблюдать за ними можно будет без специальных приборов и устройств. Стоит сказать, что это не просто предположение или теория, Молнар и его студенты провели немало исследований и наблюдений, а результаты их работ неоднократно публиковались в крупных специализированных изданиях.
Технический директор Google расписал будущее мира: прогноз до 2099 года
Технический директор Google и известный технологический футуролог Рэй Курцвейл выступил в начале этого года с очередной порцией предсказаний.
2019 – Провода и кабели для персональных и периферийных устройств любой сферы уйдут в прошлое.
2020 – Персональные компьютеры достигнут вычислительной мощности сравнимой с человеческим мозгом.
2021 – Беспроводной доступ к интернету покроет 85% поверхности Земли.
2022 – В США и Европе будут приниматься законы, регулирующие отношения людей и роботов. Деятельность роботов, их права, обязанности и другие ограничения будут формализованы.
2024 – Элементы компьютерного интеллекта станут обязательными в автомобилях. Людям запретят садиться за руль автомобиля, не оборудованного компьютерными помощниками.
2025 – Появление массового рынка гаджетов-имплантантов.
2026 – Благодаря научному прогрессу, за единицу времени мы будем продливать свою жизнь на больше времени, чем прошло
2027 – Персональный робот, способный на полностью автономные сложные действия, станет такой же привычной вещью, как холодильник или кофеварка
2028 – Солнечная энергия станет настолько дешевой и распространенной, что будет удовлетворять всей суммарной энергетической потребности человечества.
2029 – Компьютер сможет пройти тест Тьюринга, доказывая наличие у него разума в человеческом понимании этого слова. Это будет достигнуто благодаря компьютерной симуляции человеческого мозга.
2030 – Расцвет нанотехнологий в промышленности, что приведет к значительному удешевлению производства всех продуктов.
2031 – 3D-принтеры для печати человеческих органов будут использоваться в больницах любого уровня.
2032 – Нанороботы начнут использоваться в медицинских целях. Они смогут доставлять питательные вещества к клеткам человека и удалять отходы. Они также проведут детальное сканирование человеческого мозга, что позволит понять детали его работы
2033 – Самоуправляемые автомобили заполнят дороги.
2034 – Первое свидание человека с искусственным интеллектом. Фильм «Она» в усовершенствованном виде: виртуальную возлюбленную можно оборудовать «телом», проектируя изображение на сетчатку глаза, — например, с помощью контактных линз или очков виртуальной реальности.
2035 – Космическая техника стает достаточно развитой, что бы обеспечить постоянную защиту Земли от угрозы столкновения с астероидами.
2036 – Используя подход к биологии, как к программированию, человечеству впервые удастся запрограммировать клетки для лечения болезней, а использование 3D-принтеров позволит выращивать новые ткани и органы.
2037 – Гигантский прорыв в понимании тайны человеческого мозга. Будут определены сотни различных субрегионов со специализированными функциями. Некоторые из алгоритмов, которые кодируют развитие этих регионов, будут расшифрованы и включены в нейронные сети компьютеров.
2038 – Появление роботизированных людей, продуктов трансгуманистичных технологий. Они будут оборудованы дополнительным интеллектом (например, ориентированным на конкретную узкую сферу знаний, полностью охватить которую человеческий мозг не способен) и разнообразными опциями-имплантантами — от глаз-камер к дополнительным рук-протезов.
2039 – Наномашины будут имплантироваться прямо в мозг и осуществлять произвольный ввод и вывод сигналов из клеток мозга. Это приведет к виртуальной реальности «полного погружения», которая не потребует никакого дополнительного оборудования.
2040 – Поисковые системы станут основой для гаджетов, которые будут вживляться в человеческий организм. Поиск будет осуществляться не только с помощью языка, но и с помощью мыслей, а результаты поисковых запросов будут выводиться на экран тех же линз или очков.
2041 – Предельная пропускная способность интернета станет в 500 млн раз больше, чем сегодня.
2042 – Первая потенциальная реализация бессмертия – благодаря армии нанороботов, которая будет дополнять иммунную систему и «вычищать» болезни.
2043 – Человеческое тело сможет принимать любую форму, благодаря большому количеству нанороботов. Внутренние органы будут заменять кибернетическими устройствами гораздо лучшего качества.
2044 – Небиологический интеллект станет в миллиарды раз более разумным, чем биологический.
2045 – Наступление технологической сингулярности. Земля превратится в один гигантский компьютер.
2099 – Процесс технологической сингулярности распространяется на всю Вселенную.
Что же, в такие прогнозы порой трудно поверить. Однако, если принять во внимание огромные темпы развития общества, становится понятным, что в недалеком будущем и такое возможно. Пока нам остается только наблюдать
Рэй Курцвейл: «Сингулярность наступит в 2045 году и сделает людей лучше»
Как только человечество выгрузит свое сознание в облако, нам не придется держать в уме лишнюю информацию. Новые области мозга начнут развиваться, люди станут умнее, талантливее и привлекательнее, прогнозирует футуролог и идеолог сингулярности Рэй Курцвейл.
Читайте «Хайтек» в
Слияние человека с искусственным интеллектом принесет людям пользу и улучшит качество их жизни, отметил футуролог Рэй Курцвейл во время выступления на фестивале SXSW в Остине. Люди перенесут свое сознание в облако и смогут «разгрузить» мозг. По мнению эксперта, это приведет к увеличению неокортекса — новых областей коры головного мозга, которые у человека отвечают за сенсорное восприятие, осознанное мышление, речь, способность к искусствам и чувство юмора. «Мы станем смешнее, музыкальные, сексуальнее. Мы станем воплощением собственных ценностей», — убежден футуролог.
По его прогнозам, в 2029 году произойдет слияние человеческого интеллекта и искусственного, а сингулярность наступит в 2045 году. Большинство экспертов считает, что это произойдет не раньше 2047 года — если произойдет в принципе. Но Курцвейл настроен оптимистично — он уверен, что за слиянием человека с искусственным интеллектом будущее. Люди перестанут мыслить линейно, и это приведет к небывалому прежде прогрессу.
Робот-креативный директор представил свой первый рекламный ролик
Развитие ИИ, по мнению футуролога, будет двигаться по экспоненте. «Со временем появятся компьютеры, сопоставимые по уму с человеком. Мы будем загружать туда свое мышление, подключать его к облаку и расширять свои возможности. Это не сценарий будущего — это отчасти происходит уже сегодня, и темпы развития только будут нарастать», — цитирует Курцвейла Inverse.
В отличие от предпринимателя Илона Маска и физика Стивена Хокинга, ученый не верит в угрожающий потенциал ИИ. Современные технологии дают людям новые возможности и в будущем этих возможностей станет больше. К примеру, люди смогут вживлять в мозг чипы, которые помогают работать памяти.
«Через 10 лет спрос на гуманитариев резко возрастет»
Скорое приближение сингулярности также предвидит основатель и генеральный директор SoftBank Масаеси Сон. По его прогнозам, этот момент наступит через 30 лет. Но в отличие от Курцвейла, Сона беспокоит достижение роботами интеллектуального уровня человека. Люди могут остаться без работы, ведь все задачи за них с легкостью будут выполнять машины. Другие эксперты считают, что сингулярность большинство ныне живущих не застанет, так как пока для этого нет достаточных научных предпосылок.
Технический директор Google опубликовал свой прогноз развития человечества до 2099 года
Технический директор Google Рэй Курцвейл, как обычно, делает свои предсказания в начале года. Трудно сказать пророк он или просто у него хобби такое, но одно можно утверждать точно — его прогнозы невероятны.
Рэй Курцвейл занимается технологической футурологией и являтся исследователем в области искусственного интеллекта. Своими прогнозами он делиться со всем миром с середины 90-х годов прошлого века. Некоторые из них просто невероятны и очень впечатляют своей смелостью.
Совсем недавно футуролог делал прогнозы на относительно небольшие сроки, но в этот раз его прогноз расчитан почти до конца текущего века. Предлагаем Вам включить воображение и отправиться в будущее.
2022 – В США и Европе будут приниматься законы, регулирующие отношения людей и роботов. Деятельность роботов, их права, обязанности и другие ограничения будут формализованы.
2024 – Элементы компьютерного интеллекта станут обязательными в автомобилях. Людям запретят садиться за руль автомобиля, не оборудованного компьютерными помощниками.
2026 – Благодаря научному прогрессу, за единицу времени мы будем продлевать свою жизнь на больше времени, чем прошло
2027 – Персональный робот, способный на полностью автономные сложные действия, станет такой же привычной вещью, как холодильник или кофеварка
2028 – Солнечная энергия станет настолько дешевой и распространенной, что будет удовлетворять всей суммарной энергетической потребности человечества.
2029 – Компьютер сможет пройти тест Тьюринга, доказывая наличие у него разума в человеческом понимании этого слова. Это будет достигнуто благодаря компьютерной симуляции человеческого мозга.
2030 – Расцвет нанотехнологий в промышленности, что приведет к значительному удешевлению производства всех продуктов.
2032 – Нанороботы начнут использоваться в медицинских целях. Они смогут доставлять питательные вещества к клеткам человека и удалять отходы. Они также проведут детальное сканирование человеческого мозга, что позволит понять детали его работы
2034 – Первое свидание человека с искусственным интеллектом. Фильм «Она» в усовершенствованном виде: виртуальную возлюбленную можно оборудовать «телом», проектируя изображение на сетчатку глаза, — например, с помощью контактных линз или очков виртуальной реальности.
2035 – Космическая техника станет достаточно развитой, чтобы обеспечить постоянную защиту Земли от угрозы столкновения с астероидами.
2036 – Используя подход к биологии, как к программированию, человечеству впервые удастся запрограммировать клетки для лечения болезней, а использование 3D-принтеров позволит выращивать новые ткани и органы.
2037 – Гигантский прорыв в понимании тайны человеческого мозга. Будут определены сотни различных субрегионов со специализированными функциями. Некоторые из алгоритмов, которые кодируют развитие этих регионов, будут расшифрованы и включены в нейронные сети компьютеров.
2038 – Появление роботизированных людей, продуктов трансгуманистичных технологий. Они будут оборудованы дополнительным интеллектом (например, ориентированным на конкретную узкую сферу знаний, полностью охватить которую человеческий мозг не способен) и разнообразными опциями-имплантантами — от глаз-камер до дополнительных рук-протезов.
2039 – Наномашины будут имплантироваться прямо в мозг и осуществлять произвольный ввод и вывод сигналов из клеток мозга. Это приведет к виртуальной реальности «полного погружения», которая не потребует никакого дополнительного оборудования.
2040 – Поисковые системы станут основой для гаджетов, которые будут вживляться в человеческий организм. Поиск будет осуществляться не только с помощью языка, но и с помощью мыслей, а результаты поисковых запросов будут выводиться на экран тех же линз или очков.
2042 – Первая потенциальная реализация бессмертия – благодаря армии нанороботов, которая будет дополнять иммунную систему и «вычищать» болезни.
2043 – Человеческое тело сможет принимать любую форму, благодаря большому количеству нанороботов. Внутренние органы будут заменять кибернетическими устройствами гораздо лучшего качества.
