Технологическая сингулярность

Аватар пользователя sjmorozov

Теги: 

Несколько дней назад нашёл интересную тему на одном англоязычном форуме — brainmeta.com/forum. В теме обсуждается сингулярность… в техническом прогрессе. Автор оригинальной статьи на эту тему Dani Eder из компании Boeing AI Center, Huntsville, AL. Автор топика — Shawn. Не знаю, разрешена ли публикация статьи на других языках и сайтах, отправил автору сообщение — ответа пока нет. Если ответит, что публиковать нельзя, сокращу эту запись до нескольких цитат. Пока же мой перевод. Замечу, что эта тема открыта на форуме в 2003 году, а оригинальная статья была написана в 94-м, поэтому делайте на это поправку в некоторых цифрах. Smile

- - -

Что такое сингулярность? Это научно-фантастическая абстракция, введённая Вернором Винджем, или нет? (Перевод знаменитой статьи Винджа, на которую ссылается автор, можно прочитать здесь: computerra.ru)

Сингулярность.

Человеческая история характеризуется постоянно ускоряющимися темпами технологического прогресса. Это вызвано положительной обратной связью. Новые технологии, такие как сельское хозяйство, дают возможность прироста населения. Бóльшая популяция означает больше работающих умов, следовательно новые технологии разрабатываются или исследуются быстрее. В последнее время всё больше людей освобождаются от сельского хозяйства и приходят в профессии, требующие более высокий уровень образования. Так что теперь не только существует больше умов, но эти умы имеют и больше знаний для работы, и больше времени для новых идей. 

Мы по-прежнему находимся в переходной стадии от крестьянского уровня сельского хозяйства (бóльшая часть мирового населения живёт в неразвитых странах), но сегмент мира, считающийся "развитым", постоянно расширяется. Так что мы ожидаем, что темп технологического прогресса будет расти, поскольку в мире работает всё больше и больше учёных и инженеров.

Предположим, что существует фундаментальный предел того, как могут прогрессировать технологии. Это лимит определяется физическими константами, такими как скорость света или постоянная Планка. Тогда можно ожидать, что темп технологического прогресса замедлится, когда мы приблизимся к этим пределам. Из этого можно сделать вывод, что наступит некий момент времени (возможно, в будущем), когда технологический прогресс будет на своём пике. Это особое событие в том смысле, что оно происходит всего раз в истории человечества, отсюда и термин "сингулярность".

Это моё определение концепции. Вернор Виндж в своей серии рассказов "Мирная война" и "Затерянные в реальном времени" давал другое определение. Он считает, что не существует предела того, как далеко могут развиваться технологии или что этот предел очень-очень далёк. Темпы развития прогресса стали очень быстрыми, а потом, в определённый момент, человечество таинственным образом исчезло. Подразумевается, что они поднялись на новый уровень бытия или что-то ещё. С точки зрения 20-го века, человечество стало совершненно иным. Так что, тот временной горизонт, когда мы не сможем сказать что-то определённое о будущем, и есть сингулярность по Винджу. Можно было бы ожидать, что его версия сингулярности отодвигается во времени с течением времени, т.е. этот горизонт движется вместе с нами.

Когда наступит сингулярность?

Короткий ответ — около 2035 года. На эту дату указывают несколько аргументов. Один из них является простой проекцией тренда человеческой популяции. Население планеты последние 10 000 лет увеличивается по гиперболическому закону. Примерно с 1600-го года рост населения неуклонно ускоряется, приближаясь к асимптоте, расположенной в 2035 году. В этот момент времени человеческая популяция должна стать бесконечной, либо тенденция, сохранявшаяся на протяжении всей истории человечества, будет нарушена. В любом случае, это будет особенное событие.

Если рост населения замедлится и население выровняется, то стоит ожидать, что и темпы прогресса выровняются, а затем замедлятся по мере приближения к физическим пределам, существующим во Вселенной. Есть только одна проблема с этим наивным предположением — вещь, на которую вы, возможно, смотрите прямо сейчас — компьютер.

Компьютеры на данный момент не очень умные, но это потому, что человеческий мозг сейчас примерно в миллион раз превосходит грубую мощь современных компьютеров. Вот как вы можете представить это: 10^11 нейронов с 10^3 синапсов каждый с пиковой частотой 10^3 Гц — это примерно 10^17 бит в секунду. А чип процессора с частотой 66МГц с 64-битной архитектурой дают 4,2x10^9. Вы можете купить около 100 компьютеров — расходы будут как на одного инженера или учёного — и получите около 4x10^11 бит в секунду, что примерно в миллион раз меньше, чем в человеческом мозге.

Поскольку мощность компьютеров удваивается каждые два года или около того, можно ожидать, что примерно через 40 лет компьютеры будут такими же мощными, как человеческий мозг. А через два года они будут вдвое мощнее, и т.д. А производство компьютеров не ограничено темпом роста человеческой популяции. Но суммарная мощность доступного мыслительного потенциала, включая людей и компьютеры, достигнет пикового скачка через 40 лет или около того. Через 40 лет наступит 2035 год.

Можем ли мы избежать сингулярности?

Существует пара способов избежать сингулярности. Один из них — если существует жёсткий предел мощности компьютеров, который значительно ниже уровня человеческого мозга. Значительно ниже означает ниже в 1000 раз. Если, например, мощность компьютеров ограничена только цифрой в 100 раз меньшей возможностей человека, то вы можете впихнуть 100 чипов в коробку и получить нужную мощность. Тогда бы вы сконцентрировались на автоматизации процесса производства чипов, чтобы снизить стоимость. Сегодняшняя фотолитографическая техника, кажется, в 50 раз лучше нынешних чипов (может быть, эксперты поправят меня, если я неправ). Так что, кажется, нам нужна как минимум одна серьёзная перемена, прежде чем наступит сингулярность, и может быть, это нереально.

Другой возможный способ избежать сингулярности в том, что люди сами всё провалят. Речь идёт о том, что количество поступков, связанных с убийством людей, примерно одинаково, но энергия и мощь, доступная каждому человеку, со временем растёт. Так что со временем становится легче небольшому количеству людей убить всё большее число людей. Тогда, учитывая малый, но постоянный процент психов, склонных к массовым убийствам, они, в конце концов, уничтожат много людей, и всё вернётся на свои места.

Обычные технологии привели к ядерному оружию и технологическим бедам. Можно описать сценарий, когда увлечённый безумный учёный будущего извлечёт уран из морской воды, затем получит U-235 на домашнем масс-спектрометре и соорудит бомбу на настольном фрезерном станке. И всё это он спроектирует в своей программе "SuperCAD version 9.0".

Другие интересные факты

Продолжительность человеческой жизни увеличивается примерно на 0,1 года каждый календарный год. Если темп прогресса в области медицины вырастет в 10 раз, то продолжительность жизни будет возрастать так же быстро, как мы взрослеем. Это значит, что ожидаемая продолжительность жизни резко увеличится с сегодняшних 80-ти с лишним до намного бóльшего значения. С моей сегодняшней точки зрения 36-летнего человека, биотехнологии обнадёживающе быстро развиваются даже сегодня, и я надеюсь, что в будущем они увеличат среднюю продолжительность жизни.

Будь то масштаб завода или устройство в стиле Дрекслера, сложность самовоспроизводящихся машин, вероятно, примерно одинакова. В некоторый момент времени у нас появятся инструменты для моделирования и разработки таких машин, и вскоре после этого — их строительства. Конечные инвестиции в строительство первой такой машины дадут постоянно растущий результат. Это будет иметь радикальные последствия для уровня благосостояния и многого другого. Даже почти самовоспроизводящиеся машины (скажем, на 99%) дадут очень серьёзный экономический эффект.

Голосование: 

Общая оценка: 5 (4 оценок)

Комментарии

Фактически в данной статье

Аватар пользователя sjmorozov

Фактически в данной статье представлено два взгляда на технологическую сингулярность: полная остановка развития и, наоборот, бесконечное ускорение. Какая версия больше нравится вам? И как вы относитесь к такому понятию, как технологическая сингулярность, вообще?

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

А мы, вроде бы, уже где то

Аватар пользователя Оксана

А мы, вроде бы, уже где то это начали обсуждать. Ну, я повторю своё мнение.

Прогресс растёт с каждым днём, не побоюсь этого слова. Если раньше от стационарного телефона до мобильного проходило 40 лет, а от мобильного телефона до айпеда 10 лет, то от айпеда до нейроколмпьютера пройдёт не больше пяти лет. И т.д. В конечном этоге когда то наступит этот самый пик, когда между открытиями будет происходить не больше дгня, часа, минуты и в какой то момент всемирный разум сольётся в едином мгновении прорыва. На тот момент наши технологии позволят ощутить этот информационный прорыв всем, кто будет жить на земле и всеобщий энергетический всплеск будет настолько велик, что его не избежат ни доярки из Урюпинска, в глаза не видавшие компьютера, ни вождь из племени тумба-юмба...потому как покупка телефона, это одно, а какое то всемирное волнение - это уже совсем другое. И вот в этот самый момент сознанпие человечества окажется на новом мыслительном уровне. Мы уже сейчас продвинулись относительно себя же намного вперёд в нашем сознании. Мы мыслим быстрее, информационнее, у нас юмор острее и смешнее, что говорит о нашем росте, мы воспринимаем людей не только по характеристикам, а начинаем чувствовать эмоционально, причём на растоянии. И это при довольно примитивных доступных нам на бытовом уровне технологиях! Так что моё мнние можно резюмировать так: развития не избежать никому!

Я не совсем поняла, что такое сингулярность, но, вроде бы, получается, что я за неё))


Не надо делать мне как лучше, оставьте мне как хорошо Smile

Согласен, я думаю примерно

Аватар пользователя sjmorozov

Согласен, я думаю примерно также. Надеюсь, доживу до этого момента. Smile

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

А насчёт определения — термин

Аватар пользователя sjmorozov

А насчёт определения — термин позаимствован из физики. Космологическая сингулярность — это состояние Вселенной в начальный момент Большого Взрыва, когда всё вещество (теоретически) было сжато в одну точку с бесконечной плотностью и температурой.

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

Я тоже мечтаю дожить до этого

Аватар пользователя Оксана

Я тоже мечтаю дожить до этого момента. Думаю, многое, что сейчас невозможно из-за некой эмоционально-моральной преграды станет понятным, простым и лёгким. Общение между людьми станет теплее. Любви в мире станет больше)) Многире барьеры между людьми исчезнут. Надо только готовится к этому, стараться принимать всё, что происходит. Мне легче, - у меня ребёнок)). Она уже другая. Я на неё равняюсь уже во многом. Выше меня на порядок. Это точно.


Не надо делать мне как лучше, оставьте мне как хорошо Smile

Боюсь, что общение между

Аватар пользователя sjmorozov

Боюсь, что общение между людьми лучше не станет… Хотя, как знать, здесь хочется быть идеалистом. Но думаю да, многое из написанного фантастами и футурологами сбудется, как и раньше, но в другой форме. И наши правнуки будут со смехом читать про неуклюжие описания гиперпереходов, как мы сейчас читаем описания "электрической арматуры" Жюля Верна.

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

По крайней мере, наши внуки

Аватар пользователя Оксана

По крайней мере, наши внуки не будут так боятся этих времён, как мы сейчас. Их сознание будет более продвинутым и подготовленным к прорыву.


Не надо делать мне как лучше, оставьте мне как хорошо Smile

Да, но они не будут готовы к

Аватар пользователя sjmorozov

Да, но они не будут готовы к следующему скачку, как мы к тому, в котором будут жить они. Smile Неизвестное всегда в новинку, всегда пугает и завораживает.

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

Будут. И мы будем. Всё будет

Аватар пользователя Оксана

Будут. И мы будем. Всё будет хорошо, я узнавала))


Не надо делать мне как лучше, оставьте мне как хорошо Smile

Это хорошо.

Аватар пользователя sjmorozov

Это хорошо. Smile

Теории, в которые мы верим, мы называем фактами, а факты, в которые не верим — теориями © Феликс Коэн

Случайные материалы