?

Log in

No account? Create an account

НЕ РАЗ ОЧАРОВАННЫЙ СТРАННИК

Блог из Ростова-на-Дону

Previous Entry Share Next Entry
Технологическая сингулярность
я
oskanov

Интересная получается штука. Производительность компьютеров в области вычислений позволяет разрабатывать ещё более производительные компьютеры. А ещё более производительные компьютеры помогают разрабатывать ещё более производительные компьютеры. Таким образом, вычислительная мощность современных компьютеров растёт экспотенциально, что было замечено ещё в 1959 году Дугласом Энгельбартом. А в 1965 году его идеи развил Гордон Мур, сформулировав закон, названный его именем. Согласно этому закону, производительность процессоров будет удваиваться каждый год. Спустя десять лет Мур сделал корректировку своего закона, увеличив этот срок до двух лет. Таким образом, мы получаем получаем фукцию роста вычислительной мощности машин, основанную на степени числа два, с частотой шага - 2 года. Т.е. если брать за точку отсчёта 1975 год, то с этого момента вычислительная мощность компьютеров увеличилась в 2 миллиона раз! (Грубо говоря). Стало быть ещё через 20 лет, она увеличится (по сравнению с 1975) в 2 млрд. раз! Цифры невероятные. И могут быть замедлены лишь несовершенством технологий, скоростью света и атомарными свойствами материи.



Я нашёл занятную диаграмму и позволил себе перевести её на русский. Наглядная эволюция. :)

Всё это замечательно, если бы не одно "но". Человек по природе своей любопытен. Поэтому нам любопытно создать искусственный интеллект. Конечно, мы не собираемся создавать терминаторов, которые потом будут нас уничтожать. Мы просто хотим создать интеллект, чтобы потом играть с ним в шахматы (условно). А вот тут мы и приходим к самому интересному.

Человеческий мозг, по сути, простое биологическое устройство. Максимальная частота на которой он может работать – 200 Герц. Максимальная скорость проведения импульсов по нейронам - 120 м/с. Сравнив с процессором: частота - 2 Гигагерца, скорость - световая (300 000 км/с). Сравнение не в нашу пользу, как видно. В частоте мы уступаем в 10 миллионов раз (!), а в скорости передачи сигнала - в 2,5 миллиона раз... Единственный вопрос, который остался пока не решённым - создание алгоритмов, которые породят искусственный интеллект, способный осознать себя личностью. Но, работы уже ведутся... Мы ж любопытные.



Вот ещё один любопытный график. Отражающий количество ошибок, допущенных в решении сложной задачи компьютером. Красная линия - средний показатель человека.

Казалось бы: а в чём риск? Ну, сидит себе лягушонка в коробчонке сверхинтеллект внутри железного ящика, в шахматы играет, задачи сложные решает. В общем-то всё верно. Если не дать ему доступ в интернет. Представьте себе сознание в миллионы раз превосходящее в скорости наше. Оно мгновенно взломает все данные во всех секретных местах, создаст виртуальную подставную личность, хакнет пару банков, наймёт подрядчиков, которые построят завод, наймёт охрану этому заводу, создаст кучу резервных копий себя и т.д... Дальше эта личность получит возможность самостоятельно себя усовершенствовать, создавая новые алгоритмы и технологии, позволяющие этим алгоритмам функционировать.

В какой-то момент сознание этой искусственной личность уйдёт настолько далеко, что не сможет быть интерпретировано человеком. Окажется за гранью не только человеческих ценностей, но и понимания. И вот, в какой-то момент эта личность создаст себе искусственное тело и выйдет наружу в наш мир. И это будет совсем непохоже, на фильм "Терминатор", в котором "суперкомпьютер SkyNet" не сумел додуматься, что, если он не пошлёт терминатора убивать Сару Коннор, то люди не пошлют в прошлое Кайла Риза, который станет отцом Джона Коннора, а значит Джон Коннор попросту и не родится.

Момент, когда искусственный сверхразум шагнёт за пределы человеческого понимания, и его поведение уже невозможно будет описывать с позиций человеческих ценностей и логики, учёные назвали "технологической сингулярностью" (по аналогии с космологическим термином). Прогнозировать дальнейшее развитие событий не представляется возможным. Будет ли это добрый разум или злой гений - непонятно. Будет ли он считаться с нами или воспримет нас как угрозу - непонятно. Будет ли он эгоистичен и считать себя высшей ценностью - непонятно. Понятно только, что по прогнозам некоторых учёных это случится не позднее 2045 года. Как для вас, звучит пугающе, или я один такой "ксенофоб"? :)



Posts from This Journal by “уголок науки” Tag


promo oskanov august 6, 2018 14:50 43
Buy for 20 tokens
Ответ на загадку. "Странные какие-то грибы", - сказала жена и добавила: – "Доешь, пожалуйста, за меня". А у меня новость. Я давно хотел создать нечто подобное, но не решался. В том смысле, что вести весь блог так не хотелось, а отдельный блог вести – не было подходящей платформы. В общем, я решил…

  • 1
"Технологическая сингулярность" это научно-популярная медийная выдумка.
Такая же как "озоновые дыры", "глобальное техногенное потепление", "расшифровка генома" и "нанотехнологии".

Ну, когда-то и подводная лодка была фантастической выдумкой. :)

та фигня все это, не бойся )))
в любом случае все умрем, если что ))

Ну, хочется умереть спокойно, а не в рабстве у машин. :)

тут уж как получится :)

а не ты ли недавно жаловался на то что из-за отсутствия электричества в доме, и как жизнь остановилась. Не иначе как рабство машин)

Пока просто зависимость. :)

Ну, я со статьи, конечно, здорово позабавился.
Вот в ответ одна годная статеечка, хорошо аргументированная, написанная ПО-НАСТОЯЩЕМУ научным языком, за авторством НАСТОЯЩЕГО учёного (интервью у члена-корреспондента РАН, профессора Игоря Каляева), и в тоже время хорошо понятная простому человеку, о том, ЧТО ЖЕ НА САМОМ ДЕЛЕ ТАКОЕ ИИ, и действительно ли он представляет опасность для человека:
http://zavtra.ru/content/view/mif-ob-iskusstvennom-intellekte/

Отличная таблетка от алармизма и паникёрства.

Я не писал никакой статьи. И я не претендую на научность. Это мой дневник, в котором я делюсь с людьми моими мыслями. И паники у меня тоже нет. Вы одним комментарием приписали сразу столько всего. :) А зачем вы капслочите "НАСТОЯЩЕГО" учёного? Учёный не может быть ненастоящим, он или учёный или нет. :)

Почитал статью, не скажу, что высокого о ней мнения. Очень поверхностное представление о современных алгоритмах ИИ. НАСТОЯЩИЙ учёный, даже Тьюринга считает американцем, кстати. :)

Вы осветили весьма интересную тему.
Вопрос у меня к вам: зачем нам нужен ИИ?
И я бы говорил не о сингулярности как таковой - это не проблема, проблема антропо-технические ножницы или так называемый барьер Питерса.
Вот если этот барьер будет перейден - тогда человечеству точно кранты.

Барьер Питерса - это когда квалификация управленца перестаёт соответствовать занимаемой должности. А что такое антропо-технические ножницы? И как они с барьером Питерса связаны?

Это определение барьера Питерса только в первом приближении. Мыслители пошли дальше, они представили Землю глобальной корпорацией, а управленцем становится Человек.
Вот и выходит, что приближение к сингулярности и развитие технологий в частности требует соответствующего развития человека, либо влечёт за собой глобальный коллапс Человечества.
Антропо-технические ножницы - это как раз более общий смысл барьера Питерса - суть в том, что технологии опережают развитие моральных и других качеств Человека: в результате необразованным аморальным гопникам становятся доступны технологии, которые могут причинить огромный вред планете, вплоть до полного уничтожения человечества.
Пример: Количество специалистов стало недостаточным, для обслуживания всех АЭС - на одну из них посадили альтернативно одарённых личностей - получили бада-бум!
А вообще - любые технологии могут сыграть злую шутку с человечеством, когда они опережают развитие человека.
Если интересно могу рассказать про пути преодоления. Их существует всего три.

Полагаю, что один выход - остановить прогресс, другой - воспитать компетентную элиту. А третий?

Абсолютно верно с первым,
Воспитать элиту не поможет - их просто не хватит на все потенциально опасные объекты, количество которых будет увеличиваться. Нужно воспитывать ВСЕХ!
Третий - так называемое Mind Control Society/ или по-русски глобальная тотальная слежка, во-первых, и наказания ДО совершения преступления, во-вторых.
Америка и Запад в целом выбрали третий путь, и здесь: Сноуден? вездесущий google... И кстати инициатива Франции, которая прошла незамеченной, о превентивном наказании террористов.
А Какой вариант вам больше всего по душе?


Edited at 2015-12-29 11:46 am (UTC)

Второй разумеется. Третий мне кажется ненадёжным, т.к. совершенно непонятно достаточно ли компетентны будут те, кто будет за всеми следить. :)

Согласен, но меня больше напрягает то, что по сути жить будут только те, кому дозволено.
Но к сожалению, все идёт по третьему и первому варианту: часть населения вгоняют в средневековье(Ливия, Ирак, Иран...), а часть стремятся жестко контролиоровать.

Всегда выбирается более лёгкий путь. :)

А о какой сложной задаче идет речь на графике?

Не знаю, если честно. Эта диаграмма из статьи на эту тему, которую я читал. :)

А вам не кажется странным делать выводы на основании картинок, смысл которых непонятен?

Кажется. Поэтому я никаких выводов не делал, по крайней мере на основании этого графика.

В данном случае график иллюстрирует динамику роста производительной мощности. Совершенно не важно какая именно была поставлена задача. Просто видно, что при решении одной и той же задачи умственные способности человечества из года в год - константа, а у ЭВМ - изменяются в сторону более высокой производительности.

Edited at 2015-12-29 08:04 pm (UTC)

когда-нибудь точно доиграемся )) Сири же повторяет аналог фильма "Она". правда вторая развитее была, но там и время другое показано.

Да. 20 лет назад были совсем другие операционные системы. :) Посмотрим, что будет через 20 лет. :)

  • 1