Нидейла Нэльте №2

Отчет № 2. Джеймс Баррат "Последнее изобретение человечества"

Отчет № 2. Джеймс Баррат "Последнее изобретение человечества"

Джеймс Баррат. Последнее изобретение человечества. Искусственный интеллект и конец эры Homosapiens. Издательство Альпина Паблишер.

Друзья, товарищи, братья и сестры... это конец. Книга вышла в оригинале несколько лет назад и отстаёт от текущего момента минимум на три года. Пора рыть могилку и, обернувшись простынёй, ползти на кладбище. МЫ ВСЕ УМРЁМ.

Вот такой основной вывод можно сделать из этой книги. Автор проводит обширное рассмотрение вопроса создания искусственного интеллекта и связанных с этим процессом угроз. В тексте приводятся фрагмент бесед с пионерами в области ИИ, и выводы, сделанные из них, выбивают из колеи.

Да, мы стремительно несёмся в светлое будущее, и это светлое будущее не предвещает нам ничего хорошего. Тезисно отмечу, чего коснулся автор в этом опусе:

- Создатели ИИ в большинстве своём очень оптимистичны;

- Все стремятся его создать, но никто не думает, что будет, если они создадут «Скайнет»;

- Искусственному интеллекту не обязательно осиливать тест Тьюринга, чтобы стать экзистенциальной угрозой;

- Удержать в коробке универсальный человекоподобный интеллект (УЧИ) или искусственный суперинтеллект (ИСИ) почти нереально;

- Но его обязательно создадут: либо армия, либо финансовый сектор. Вы знали, что Siri родили в недрах Defense Advanced Research Projects Agency (DARPA)? А это, на секундочку, Управление перспективных исследовательских проектов Министерства обороны США.

Автор касается проблемы «мгновенного» развития УЧИ в ИСИ - интеллектуального взрыва, раскрывает понятие «технологическая сингулярность», и напрямую задается вопросом: «А что лучше: создать ИИ быстрее, когда планета ещё не до конца автоматизирована, обжечься, на чём можно, и потом создать дружественный ИИ, или потянуть, поразмышлять, но прийти к первой ИИ-катастрофе, имея на руках продвинутые нанотехнологии?»

Рекомендую почитать. Я гуманитарий, поэтому только изучаю вопрос:)

К этой книжке я сейчас читаю комплект из еще четырёх, и после попробую разродиться статьёй на тему. 

Отрывок (первые 30 страниц)

+2
21:55
273
23:00
+3
Очень такой хреновенький аргумент ad hominem, но я все же воспользуюсь им для комментария, ибо сказать что-то еще можно только прочитав книгу, а читать я ее не буду (и даже объясню почему).
Автор книги — журналист. Насколько я вижу, у него даже нет технического образования. И я не считаю, что пугать меня злобным ИИ может человек, не имеющий докторской по нейросетям.
Он приводит чьи-то еще аргументы? Я их читал. Меня пугали Хокинг, Бостром, даже пресловутый Маск. Господа, Хокинг — гений, но он астрофизик. Бостром — философ, это важно, да, но вторично. Маск… глубоко его уважаю, но сейчас он больше менеджер, чем технарь.
А можно вот прям списочком рецензируемые научные работы, доказывающие с технической точки зрения враждебность сильного ИИ? Нет? Следующий!

Нет, я открыл отрывок книги, полистал. Типичная пугачка. Она написана типа для широких масс, но тем хуже для нее. Это громаднейшее поле как для непреднамеренных ошибок, так и откровенной подмены понятий. Поэтому — мимо.

Это не означает, что я резко не согласен с выводом книги. Просто он для меня не является доказанным. Разговоры для бедных — пощекотать себе нервы. А до сильного ИИ еще надо дожить. Доживем — будем разговаривать. Не с вами, господа. С ним.

П.С. Оставлю ЭТО здесь. Шедевральнейший рассказик в тему.

00:11
+1
Если бы я был специалистом, то скорее всего не читал бы такую литературу:) но мое образование не позволяет с ходу врубиться в дебри искинов и их особенностях, поэтому пока так. Там как такового вывода нет, в книге есть разные мнения. Проблема не в том, что искин будет прямо опасен сразу по создании. Проблема в том, в какую сторону он качнется, когда станет использоваться как оружие, как БИУС? А список фамилий я завтра приведу. С ходу вспоминаю только Курцвейла и Омохундро.
18:57
Да, я помню этот рассказ. Гениально. И в тему книги. Чуть позже будет обзор на книгу «Восстание машин отменяется»:)
Ну тогда уж и Айзека Азимова «Последний вопрос» надо вспомнить.
19:18
+1
Тоже годная вещь.
19:08
А я недавно «Она» посмотрела.
Там ИИ добрый и ошень эмоциональный. Понабравшись опыта от людей, он прост ушёл. Типа «ребят, спасибо, но с вами ловить больше нечего».
19:16
А мне Ex machina понравилась.
19:40
А там разве девочка-машина не порезала создателя и гостя? Или я путаю?
19:56
Точно там.
19:40
Линкани на меня. Я не помню этот фильм.
19:44
Ссылка на страницу кинопоиска. Ваще достаточно сопливая история на самом деле.
19:51
Прикольно, посмотрю. Спасибо:)
Загрузка...
Book24