Последнее изобретение человечества (Джеймс Баррат)

[Генийратор]

За каких-то 10 лет искусственный интеллект сравняется с человеческим, а затем и превзойдет его. Корпорации и государственные структуры по всему миру, конкурируя между собой, вкладывают миллиарды в развитие искусственного разума. Но что ждет нас дальше? Ученые задаются вопросом: не окажется ли это изобретение последним – гибельным для нас самих? Достигнув определенного уровня развития, искусственный интеллект сможет сам себя совершенствовать, без участия человека. У нас появится соперник хитрее, сильнее и враждебнее, чем мы можем себе представить.

Как именно машины будут брать власть? Существует ли наиболее вероятный, реалистичный сценарий, который нам угрожает? Если вам это интересно, то эта книга для вас.

Отзывы:

Очень популярная тема пару лет назад, которая сейчас потихоньку затухает. Существует два лагеря — те, кто поддерживает развитие ИИ и те, кто считает его концом существования человечества. Книга из второго лагеря.

Написано, немного скучновато и затянуто. Практически все примеры говорят о том, что нам надо представить развитый ИИ. Описание самого ИИ напоминает книги фантастов середины 20 в. о начале 21 в. А по их представлениям, мышь могла только пищать

С учётом того, что сейчас весь код пишется ручками программистов и автоматизация даже по самым простым моментам идёт медленно, до продвинутого ИИ, либо далеко, либо его никогда не будет. Возможно, что сейчас используются продвинутые алгоритмы по изучению чего-то или применяются в движении объектов, но это не тот ИИ о котором размышляет автор. В ближайшей перспективе нас ждёт освобождение от рабства работы, потому что рутинные обязанности будут выполнять алгоритмы. А вот что будет дальше, ещё не совсем ясно.

Не разделяю мнение автора, поэтому книга мне показалось скучной и сказочной, а примеры иногда наивными.

Для просмотра скрытого содержимого вам нужно войти или зарегистрироваться.

Одна из немногих книг профессионалов о негативных последствиях новых направлений в науке и технике – Big Data, Data Mining, семантическом вебе, облачных технологиях и других направлениях, каждое в отдельности обещающих радужные перспективы, но сложенные в единую мозаику, обретают образ самой большой угрозы, с которой сталкивалось человечество. И дело не в алармизме – просто пора трезво оценить границы того, что обещает нам современная наука.

Владимир Крючков

Достоинства:
Провоцирует читателя на определенные рассуждения. Способна привлечь внимание к описываемой проблеме.
Недостатки:
Полное отсутствие научной базы под тем, что описывается. Есть впечатление, что автор собрал материалы по научно-популярным источникам и, не разобравшись до конца в вопросах, решил написать книгу. Тезисы , сформулированные в самом начале в введении, повторяются в течение книги по 5-6 раз и ничего нового не происходит.
Комментарий:
Содержание книги можно описать тезисно несколькими предложениями: 1. Искусственный интеллект очень опасен, а человечество этого не осознаёт. 2. По всему миру разработки в области создания ИИ и искусственный сверхразум может появиться в любой момент. 3. Как поведёт себя сверхразум никто не знает. 4. Как только сверхразумный ИИ появится, то произойдёт интеллектуальный взрыв. Если вы прочитали эти мысли в книге, то можете ее закрывать - ничего нового кроме очевидных вещей и размусоливания одних и тех же тезисов в разных формулировках вы не найдёте. Автор не удосужился даже немного углубиться в то, как на самом деле разрабатывается ИИ, какие возможны способы защиты от интеллектуального взрыва могут быть и что для этого делается. Существует куда более глубокие и насыщенные книги об создании ИИ, о методиках, научных школах и проблемах с этим связанных. Например, «Верховный алгоритм».
Алексей С.

Погружение в суть вопроса недостаточное, постоянные повторы одного и того же, минимум логических доводов. короче, поверьте автору, вндь он 150 раз повторил одну и ту же мысль!

Елена

Как нетрудно заметить, искусственный интеллект прочно вошел в в первую десятку страшилок масс-медиа, заметно потеснив такие клондайки "торговцев страхом", как падение астероида и Йеллоустонский супервулкан. Тема "бездушного цифрового гения" в 2015 году была проэксплуатирована как никогда. Особенно в кино. Свой вклад внесли, как киты империи комиксов ("Мстители: Эра Альтрона"), так и держатели почтенных кинофраншиз ("Терминатор: Генезис", ага).

Само собой, умельцы складывать буквы в слова, и, в особенности, пускатели их творений в свет, не могли пройти мимо такого шабаша. И уже летом того же 2015-го увидел свет русский перевод книги кинодокументалиста с Джеймса Баррата "Последнее изобретение человечества". С интригующим подзаголовком. "Искусственный интеллект и конец эры Homo sapiens".
Скажу сразу - автора совершенно не интересует, каким образом искусственный интеллект придет в нашу жизнь. На основе чего он будет построен? Будет ли это супернавороченный набор скриптов, эмуляция человеческого сознания или нечто кардинально другое?

Как бы то ни было, Баррат считает это событие свершившимся и с ходу приступает к анализу возможных негативных последствий. А поскольку он не представляет, к_а_к_и_м и_м_е_н_н_о может быть искусственный интеллект, то тут же сворачивает на кривую дорожку авторов псевдонаучных бестселлеров - начинает громоздить допущения на допущения.

Чем плох такой подход? Сейчас попробую объяснить на пальцах.

Возьмем весьма популярную "как бы гипотезу", что до нас на Земле существовала другая цивилизация. Хорошо. Проверим ее от обратного. Предположим, исчезнем МЫ или скатимся в пещерный век. Тем, кто придет после нас придется развивать магию. Или искать другой путь. Индустриальная дорожка будет заказана. Почему? Не будет месторождений полезных ископаемых лежащих на поверхности. МЫ их УЖЕ вычерпали! Значит, если КТО-ТО был до нас, их цивилизация была основана на совершенно других принципах. Каких? Сие науке неизвестно.

Энтузиасту с горящими глазами, конечно сомнения неведомы. "Ну да, конечно, на совершенно других принципах! И что?" А ничего! Кроме того, что дискуссия ушла из оазиса науки в пустыню домыслов и мудрствований...

Так и Джеймс Баррат. Он предполагает, что ИИ ощутит себя узником - и тут же начинает строить гипотезы, как он может освободиться. Предполагает, что ИИ понадобятся миллиарды долларов и гигаватты энергии - и тут же рассказывает, как он их добудет. Предполагает (вот с какого бадуна?), что у ИИ будут животные инстинкты, унаследованные нами от предков по эволюционной лестнице - и тут же рисует страсти-мордасти, КАК он их будет реализовать...

После ударного цепляющего начала, на читателя вываливается ворох фактов. Баррат активно общается с учеными, чьи убеждения близки к религиозным, один Рэй Курцвейл чего стоит. И последовательный алармист Стивен Омохундро также неподражаем. Впрочем, и корифеям, калибра Стивена Хокинга также дается слово, если их лыко ложится в строку автора.

Не забыта и популярная страшилка про жуткое агентство DAPRA. А вот тему "умных дронов-убийц" автор развить не успел, очевидно оригинальная книга вышла в свет до того, как пресса стала активно мусолить ее.

Кстати говоря, язык книги легким не назовёшь. Мало того, что он насыщен терминами и аббревиатурами, так еще и автор любит "выйти покурить". То про бойню 2007 года в Техническом университете Вирджинии с жуткими подробностями расскажет, то панегирик Алану Тьюрингу пропоёт, да на пару страниц...

Когда начался разговор про возможности Google, я, наконец, почувствовал землю под ногами. Ведь именно пользуясь постоянно совершенствующимися сервисами Google, можно ощутить мерную поступь искусственного интеллекта.

Вообще, если уж говорить о пришествии ИИ, то скорее всего он явится не в военном камуфляже, а в рабочем халате. В виде "ассистента", а вернее всего - суперпродвинутой и однозначно дружественной "операционки". Примерно в фильме "Она". Операционки для ВСЕГО - компьютера, смартфона, домашней техники. Привет, "Генезис"! Скайнет, а ты симпатичный! Будем дружить? Энергии ведь хватит всем!

Естественно, это не означает, что все будет гладко. Уже Windows 10 способна на такие кунштюки, как-то: самостоятельно под покровом ночи проиндексировать диски, обнаружить глубоко запрятанную коллекцию порно, да и вывалить наутро на рабочий стол, к вящей радости домочадцев... Реальный случай, кстати...

И три закона роботехники не спасут. Тот же Первый Закон запросто может толкнуть ИИ на захват контроля над человеческой жизнью. Как? Да очень просто! Что должен сделать робот, если человек занимается последовательным саморазрушением? Допустим, спивается? Конечно же, спасти человека, так диктует Первый Закон. Вне зависимости, хочет он этого или нет... Пойдем дальше. Как должен поступить такой ИИ с политиками, чьи решения ведут, допустим, к военному конфликту? Или массовой потере благосостояния?

Поэтому у Азимова роботы попервости использовались в космосе и только в космосе. Потом он это ограничение отбросил, но он же фантаст. В жизни будет несколько иначе...

А людям, чтобы играть с ИИ на равных, придется ЭВОЛЮЦИОНИРОВАТЬ. Общаться с электроникой напрямую, без "костылей" в виде пультов, клавиатур, манипуляторов. Сращиваться с компьютерами и расширять свои возможности. И кто там сказал, что эра Homo Sapiens закончится?

Уже сейчас мы можем наблюдать, как работает эволюция. То же "клиповое мышление" вовсе не результат "прожигания времени в интернете", как утверждают некоторые "эксперты", ну те, которые в лаптях и со щами в бороде. Это - попытка мозга приспособиться к всевозрастающему потоку информации.

В качестве "конфетки под конец", Баррат позволяет себе пофантазировать, как можно обуздать суперинтеллект. Или заранее стреножить его. Забавно. Но на фоне уже прочитанного - слабовато.

Говоря общо, книга является превосходнейшим... сортирным чтивом для гиков! Им и тема эта близка, и язык повествования ну просто родной. Ну, еще пойдет со смазкой "энтузиастам", повёрнутым на теме. А остальным простым смертным от открывающихся в книге истин будет ни жарко ни холодно. И даже в компании под пивко полученными знаниями блеснуть не получится, для такого изложенная здесь информация требует глубокого осмысления. Так что, не верьте пиару, эта книга вовсе не "захватывающий детективный роман"!

Бартимеус