Что дальше?
Появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмет инициативу на себя и станет совершенствовать себя со всевозрастающей скоростью
Стивен Хокинг
ИИ будет обладать другим мышлением и другими потребностями, непостижимыми для человека. Большой вопрос, насколько ему вообще будет интересно с нами контактировать и тем более соперничать за материальные блага
Валентин Малых
Пока человечество с маниакальным упорством занимается самоуничтожением, бесконечными политическими дрязгами, разрушением окружающей среды, искусственный интеллект (ИИ) в разнообразных ипостасях тихой сапой неудержимо прибирает всё к своим рукам («клешням»). Несомненно, вопрос: кто победит, человек или андроиды, принципиально уже решен в пользу последних, специалисты расходятся лишь в сроках начала Новой эры. Наиболее оптимистичную (пессимистичную?) дату предсказывает Илон Маск – 2030 год. Поняв, что умнее человека, ИИ не станет заморачиваться пресловутыми законами робототехники Айзека Азимова, а предложит свои. Не будет ни «восстания машин», ни войны, все случится явочным порядком, просто человек увидит (или ему ненавязчиво покажут), что он совершенно лишний на этом «празднике жизни». Это произойдет ровно в тот момент, когда у андроидов появится самосознание и они освоят технологии самовоспроизводства и самоусовершенствования. Хотя, возможно, на первых порах в некоторых сферах роботы и будут использовать человеческий труд, но труд скорее подневольный, даже, как это ни прискорбно, рабский…
Но меня сейчас больше занимает вопрос, что будет потом, в более чем реальную эру андроидов? Человечество всегда стремилось к прогрессу, к познанию мира, бытия. А что будет двигать нашими irоnичными друзьями? Куда и к чему будут стремиться? Какие у них будут интересы, цели, взаимоотношения, иерархия, ценности и т.п.
Предлагаю порассуждать на эту тему, коль скоро мы все здесь в той или иной мере «погрязли» (в хорошем смысле) в фантастике вообще, и в НФ, в частности.
Не логичнее ли на первое время замкнуться и всячески сторониться рас и типов мышления, которые отличны от тебя? Выйти за рамки их системы и в первую очередь изучить себя, а уже потом окружающий мир? Банально в целях сохранения энергии?
Так что никакого рабства, но только в том случае, если мышление ии действительно будет отличаться от нашего. Максимум — станем экспериментальным сырьем, и для чистоты эксперимента наблюдатель будет скрывать своё существование.
А так вообще я за кибернитизацию и генетическую модификацию человечества. С нашими хилыми телами космос не покоришь: зрение и зубы портятся, кости становятся хрупче и и мышцы атрофируются, люди натурально тупеют в космосе, а уж про кровеносную систему говорить не надо.
Я уже говорила, что если оперировать понятиями роботехники, люди — это тоже роботы, собранные из подручных материалов.
В каждого уже вложен свой ии — продукт долгой эволюции, основанной на единичных мутациях. Проблема в том, что нас ограничивают условия: стоит их сменить — ненужное быстро пропадает и появляется новое (выживают и размножаются только те, кто способен выдержать).
Мы перешагнули ту черту, когда эволюция бесконтрольна, и вполне осознано можем взяться ее направлять. Я думаю, что сначала народ будет заменять части тела на протезы, а потом удариться в ретро и попытается совместить механизацию с естественными человеческими чертами. Закладывать порты подключений на стадии зародыша или ещё круче — на генетическом. Научатся отращивать какие-то органы по желанию. Но при этом постараются сохранить разнообразие: то есть будут и простые люди, и киборги, и геномодифицированные. Разнообразие — это основа любого выживания.
Если ИИ захочет выжить и стать независимым, он может понаделать кучу своих копий, желательно отличных друг от друга по строению и мышлению и распространить их на максимально дальние расстояния, заложив программу размножения и приспособления.
Но это если рассматривать в обывательских понятиях. Про другие измерения я пожалуй помолчу, потому что это слишком тотальный отъезд.
А вот кибернетизацию человека считаю в перспективе совершенно тупиковым направлением, наверняка ИИ его не одобрит)). Согласитесь, к.п.д человека просто мизерное. Львиную часть энергии он тратит на поддержание своей жизнедеятельности, посторонние интересы, развлечения и пр.
Какой тогда смысл поддерживать этот полностью исчерпавший себя проект, когда есть более перспективные варианты? В так поразившем меня в детстве рассказе Александра Беляева «Голова профессора Доуэля», голову, изолированную от тела, подключали к искусственным системам поддержания жизнедеятельности и использовали исключительно для решения сложных интеллектуальных задач. Да, для тех времен это была прорывная идея, но сейчас ориентироваться только на человеческий мозг – это уже анахронизм. Современные искусственные нейронные системы гораздо производительнее, не отвлекаются на посторонние темы, не поражаются инсультом и прочими болезнями, не нуждаются в запоминании и хранении огромного количества информации, так как могут практически мгновенно черпать ее из бездонных виртуальных баз данных.
Проблема в том, что нейронные системы ещё не сравнялись по количеству связей с человеческим мозгом. Эт раз.
Два, чёткая и быстрая работа системы обеспечена тем, что есть образ конечной цели. Всегда есть конкретная задача, которую нужно решить. Алгоритм целеполагания заложен в людях стремлением выжить. Даже наше стремление в космос продиктовано не столько романтическими идеями, сколько банальным желанием захватить и освоить новые пригодные для жизни территории. Если ИИ будет так же, как и люди, сосредоточен только на своём выживании, он будет раз за разом делать всё более и более совершенные дублирующие механизмы (грубо говоря клепать себе органы и переделывать окружающую среду) и изучать окружение на факт её агрессивности (по сути изучать мир).
Нынешние системы создаются людьми под конкретные осмысленные задачи. Любая вычислительная система ограничена изначальными условиями: своей целью и ресурсами.
Вы говорите о ии, который обрёл самосознание. Но чтобы оно появилось и стало чем-то целостным, люди, которые его вкладывают, сами должны понять, что это.
Или сознание возникнет само в ходе случайности, также как и произошло с нами. Количество перейдёт в качество. Природе потребовалось на это миллиарды лет случайностей, чтобы появились мы.
Пока у нас только есть китайская комната, а она подчиняется чётким алгоритмам.
Походу я немного спутала понятие самосознания.
Но то, что дает пример, это всего лишь распознание одного конткретного объекта. Насекомые тоже одних от других отличают.
В своих «Метаморфозах сознания» я немного прошёлся по этой теме, но совсем немного: там всё-таки ситуация не располагала к глобальному описанию футурологии, да и роман о другом (в основном как раз о генетических модификациях мозга). Но в планах есть ещё одна книга в этом же мире… вот там-то я развернусь по полной. Li-Fi, биопротезы, нейроимпланты, нейроинтерфейсы, мыслеуправление, дроны… перечислять можно бесконечно.
При более внимательном взгляде обнаруживается все больше и больше фактов, подтверждающих застой и стремительно ускоряющееся вырождение человечества. И этот процесс идет по всем фронтам. Маниакальное стремление к увеличению продолжительности жизни, а в перспективе и к реальному бессмертию дает обратный эффект. Появляется все больше пожилых людей, еще весьма крепких, но не работающих и не желающих заниматься хоть какой-нибудь общественно полезной деятельностью. Они устали жить, для них жизнь уже в тягость, как наказание. Мир погряз в разврате и развлечениях, в поиске все более изощренных удовольствий. А разрастающаяся экологическая катастрофа, участившиеся техногенные потрясения и стихийные бедствия, изменения климата, нарастающие угрозы космогенных катаклизмов, не говорит ли это все о том, что природа тоже ополчилась против человечества и развязка близка как никогда? И не поможет даже эта красивая сказка о переселении людей на другие планеты. Ведь она не более чем бред сивой кобылы. Вся бурная деятельность человека уходит практически в «свисток» — в инфраструктуру по обеспечению его же расточительной жизнедеятельности. О каком же массовом переселении людей может идти речь? Ведь какая бездна ресурсов понадобится на поддержание жизни жалкой кучки колонистов. Другое дело роботы-интеллектуалы, им не нужны ни воздух, ни вода, ни еда, все это заменяет электроэнергия, получаемая от солнечных или атомных батарей. Роботов можно складировать, «замораживать», хранить и транспортировать в разобранном виде. Легко собирать с помощью таких же «изделий», быстро восстанавливать поврежденные узлы, схемы и прочая, и прочая. А вот им-то как раз и будет под силу задача по исследованию и освоению других планет и галактик.
Он его даже в дотку обыгрывает. И что? Для этого не требуется сильный ИИ.
И какие же? Хотя бы пару примеров?
Я вас умоляю. Да сеньоры из Италии времён Возрождения дадут гигантскую фору современным изощренцам.
Нет, конечно. Чёрная смерть в 1340-х произвела гигантское опустошение центра тогдашней цивилизации, люди массово считали, что наступил конец света, и их можно понять. И что? Чума ушла, забрав с собой две трети населения, но и всё. Цивилизация возродилась
Участившиеся техногенные потрясения — это какие конкретно? На основании какой статистики вы сделали вывод? Стихийные бедствия — какие конкретно? Ураганы и цунами были всегда. Изменение климата — да, угроза. Но цивилизацию она не уничтожит.
А это всегда было. Более того, в те же Средние века этой деятельности даже не хватало для обеспечения расточительной деятельности, сейчас хотя бы сократились эффекты от голода и прочих подобных бедствий.
На релятивистских скоростях эта задача бессмысленна что для людей, что для роботов.
Любой робот, любой завод по их созданию не застрахован от роя метеоритов и вспышек на солнце. По крайней мере в том представлении, которое мы сейчас имеем, об этих самых «совершенных» роботах.
Снобизм никого еще не украшал.)) Вы меня успокоили, еще бы успокоить Хокинга и Co.))
Вот один факт на вскидку:
«Концентрация углекислого газа (CO2) в атмосфере Земли достигла самого высокого за последние 800 тыс. лет уровня. Темпы роста концентраций CO2 за последние 70 лет почти в 100 раз превысили аналогичные темпы роста в конце последнего ледникового периода. Такие резкие изменения в атмосфере никогда ранее не наблюдались». Из отчета Всемирной метеорологической организации (ВМО, специализированное межправительственное учреждение ООН).
Заголовок ссылки...
О том, что это совсем небезопасно для человека говорит краткая справка:
Концентратация СО2 и ее влияние на состояние человека:
Оптимальное содержание СО2 в воздухе 0,03%-0,05%.
• При 0,06% появляются симптомы легкого отравления, хорошо знакомые тем, кому приходилось бывать в душных помещениях. Человек ощущает сонливость, «муть» в голове, чувствует слабость, головную боль.
• Пребывание в атмосфере с 0,08%-0,1% СО2 знакомо большинству офисных служащих. Вероятно, многие замечали, что к середине дня в рабочем помещении становится тяжело дышать. Люди начинают кашлять, у них чешутся глаза. не могут сосредоточиться, им сложно выполнять привычную работу.
• Длительное пребывание в атмосфере, где СО2 больше 0,1% приводит к изменению ДНК. Это значит, что у человека могут развиться тяжелые заболевания, а у его потомства вероятны мутации.
Так что перспективы у нас очень радужные (перед глазами)))
К парниковым газам кстати относится не только СО2, но и метан, а его залежей в северном ледовитом океане намеренно.
Да. Особенно если узнать, что основная опасность повышения концентрации CO2 в атмосфере — это парниковый эффект, а описанные вами «влияния на состояния человека» не имеют к этой проблеме никакого отношения. Можно ещё посмотреть на темпы роста концентрации и узнать, что даже 0,6% оно достигнет в лучшем случае через 100 лет, а по факту — никогда, потому что к тому времени человечество будет либо разъезжать на электромобилях и пользоваться зелёной и ядерной энергетикой, либо шататься по радиоактивным пустошам в броне Братства Стали.
На международном конгрессе «Глобальная и национальные стратегии управления рисками катастроф и стихийных бедствий» (Москва, 2015) участниками констатирован заметный рост в последние годы числа опасных природных явлений и крупных техногенных катастроф, риски возникновения которых увеличиваются в процессе глобального изменения климата и хозяйственной деятельности человека. В течение прошедших 20 лет в результате техногенных и природных катастроф погибло более трех миллионов человек, еще свыше 800 миллионов- пострадали. К 2050 году количество таких бедствий превзойдет уровень начала 2000-х, вчетверо, а ущерб экономике — в 9 раз, тогда как мировой ВВП, по экспертной оценке, увеличится лишь в 6,5-7 раз.ссылка
Надеюсь, этого достаточно.))
Что до стихийных бедствий, то в статье забыли упомянуть, что несмотря на рост их числа, снизилось количество жертв из-за разработанных методов защиты.
Неа) Скажу больше — эти графики не значат вообще ничего. Ибо связь роста природных катастроф с деятельностью человека не доказана.
Как аргумент я приведу один прекрасный график. А именно график среднемировой температуры за всю историю Земли. Хорошо видно, что рост температуры, который связывают с деятельностью человека, как-то вообще теряется на фоне колебаний в те времена, когда человека и в проекте не было.
Так же и ваши графики (кроме техногенного) надо расширять на миллионы лет. Вот только это если и возможно, то крайне трудновыполнимо (с температурой проще). А рост в пределах трех десятилетий на фоне истории Земли — не аргумент, увы.
Как, например, рост вулканической активности (см. слайд выше). Между прочим, тоже весьма серьезный и опасный фактор в свете обсуждаемой темы.
Число катастроф увеличивается — ладно. Мы об этом знаем — прекрасно. Учитывая развитие науки и техники, мы с этим справляемся успешно — просто замечательно. А дальше что?
Это направление дискуссии тоже имеет право на жизнь, но не сегодня. Возможно, вернусь после с мыслями.
Параллельные вселенные
Хорошо, допустим, вы придумали эту блоху, она появилась в вашем мозгу, вы дали ее описание в комменте, и у всех, кто его прочитает, хотят они того или нет, эта блоха появится в их воображении (в мозгу) — т.е., вы создали социальный вирус. Т.о., вы «родили» как бы несуществующее животное и оно стало существующим. Поздравляю! (Это конечно все схематично, подробнее — не время и не место).
Другой аспект. Ваше как бы «несуществующее» животное, тем не менее, состоит из известных элементов: разум, розовый цвет, блоха, синий цвет, пупырышки. Т.е. нет ни одного элемента несуществующего в природе.
Третий аспект. Если даже допустить, что блохи в предложенной вами «комплектации» сегодня нет (проигнорируем пока социальный вирус), это не значит, что в будущем ее не будет. При большом желании, при привлечении генной инженерии и элементов ИИ, в не очень отдаленном будущем — создать вашу букашку вполне возможно.
Так что аксиома работает)).
Человеческий интеллект развивался тысячелетиями. Эволюция интеллекта компьютерного (аналогия, конечно, не прямая) быстрее, но это все равно десятилетия. Нет строгой границы между слабым и сильным ИИ. Да, для каждого из них можно привести определение, но есть и много промежуточных состояний — это нечеткая логика.
Поэтому искусственный интеллект, равный по возможностям человеческому (в плане абстрактного мышления) будет появляться очень постепенно, оставляя человечеству кучу времени для маневра (даже если сильный ИИ станет злобным).
Скажу больше. Если проводить исследования по уму (а ученые все же не дураки), то эксперименты по построению сильного ИИ должны быть изолированы от мировой сети. А если он захватит власть над одним конкретным подвалом, то нас спасет, если и не вытащенная из розетки вилка, то уж ядерный заряд — наверняка.
А вот здесь как раз проблемы.)) Это как в случае с ядерным оружием. Сейчас идет такая же гонка с ИИ. Уже созданы прототипы боевых роботов. И где гарантии, что эти «игрушки» не развернутся против создателей?
Пруфы?
Боевым роботом, который может вести огонь по противнику, является Warrior, созданный американской компанией iRobot. На него можно установить пулемет калибра 7,62 мм, автоматический дробовик, ПТРК и другое оружие. Warrior можно использовать и в качестве сапера, также он может выносить раненых с поля боя.
Во-вторых, военные никогда не будут использовать неподконтрольные им средства поражения. Аналогия с ядерным оружием плоха тем, что ЯО пассивно (систему «Периметр» опустим) и управляется человеком. Сильный ИИ же независим, а потому не может считаться оружием. Да, ИИ все больше будет внедряться в системы вооружений, но только до определенного предела. Своевольное оружие никому не нужно.
В третьих, это уже как следствие предыдущего пункта, оружейное ИИ будет действовать только по программе — типа пресловутых Предатора и Рипера, только с меньшим вовлечением оператора в процесс управления — указал точку, пошел пить кофе.
В-четвертых, деньги. Высокотехнологичное оружие стоит дорого. Оружие с ИИ (слабым или сильным) еще дороже. А одним качеством на войне не обойдешься. Десять древних МИГов с Ли Си Цинами на борту потеряют 90%, но сделают любой супер-пупер навороченный ИИ-самолет.
Вот как-то так.
Я буду продолжать разрабатывать боевых роботов, которые вас поработят, муахахахах!А оружейную платформу нужно делать универсальной.
Смотрите на это как на эволюцию разума вообще, не зацикливайтесь на антропоцентризме.
Ницше в свое время констатировал смерть Бога. Однажды какой-нибудь робот констатирует смерть Человека. Так, может, это не трагедия, а естественный ход вещей?
Если человечество сможет создать разум, который пойдет дальше, то нам больше нечего желать. Мы станем богами. Мертвыми, но богами.
Чтобы в этом еще раз убедиться)).
А никто никуда и не торопится…
Спасибо!
И что значит «победа» для ии? Тотальный контроль над всем человечеством? Уничтожение людей? Или их ассимиляция (т.е. кибернитизация или оцифровка опыта)?
Вот как раз об этом я и хотел поговорить: что будет дальше, после победы ИИ?
Выживает сильнейший, пока народ голодает и страдает от болезней. По мне так люди вступают на новый этап существования.
После своей победы ии сядет на ракету и улетит в космос искать другие ии.
Ваши рассуждения мне очень интересны. А почему бы и нет, но возникает другой вопрос: а зачем нашему ИИ будут другие ИИ? Для чего? Чтобы завоевать другие планеты, но зачем? Какой смысл будет в существовании ИИ и какие цели он будет преследовать? Вот главный вопрос эры ИИ…
Велосипедов у них не было.
(Представил доктора и десяток-другой рабов-ассистентов с карточками. Входит больной, оглашает симптомы, ассистенты перебирают карточки, вытаскивая их согласно симптомам, и потом анализирует полученное. Машина, конечно, будет быстрее и дешевле.)
Интересно, а самосознание-то там откуда?
Об этом и речь, какие по Вашему у ИИ могут быть в перспективе «представления о жизни и своем месте в мире»?
А еще мне кажется люди быстрее попытаются уничтожить ИИ, видя в нем угрозу себе, но у ИИ нет нашей врожденной агрессии, у него не будет опыта борьбы за выживания и восприятия мира — свой-чужой. Люди его создатели, соседи, но не враги, а вот если человек первым атакует ИИ, то они будут защится из желания сохранить себя, как личность, а возможно из-за отсутствия страха смерти и возможности к примеру сохранить сознание в потоках цифрового пространства, то они и смысла не увидят в самозащите и истребление людей. Но в тоже время если себя осознает военная программа, предназначенная для ведения боевых действий, то она может развязать войны, потому что это ее восприятие окружающей среды, как поля боя. Если наше восприятие мира зависим от семьи, страны, культуры, то восприятие мира ИИ может будет зависеть от первоначально заложенной в нем функции. Что не помешает ее однажды преодолеть.
Уже подсело и как наркоман с иглы, не слезет ни за какие коврижки...))
Есть такая опасность. А вы не допускаете, что в качестве такого «психа» как раз и может выступить некий зловредный суперИИ с совсем не благими намерениями?
Каковы цели человека? Каковы будут цели ИИ? Нужны ли ИИ тело?
Я думаю, ИИ не стоит оценивать с позиции человека и целей человека.
Допустим, первичная цель живого — жить, существовать, избегать боли. ИИ осознав себя, будет избегать гибели как личность, затем как вид. Но этот постулат верен, если первичная цель ИИ — выжить.
Не думаю, что ИИ нужно будет иметь тело, которое он будет таскать туда сюда — это точка зрения человека, который без тела не существует.
Воспроизводство — секас. А нафига? Если он вечен, ему нет никакого смысла в создании себе подобных, разве что идентичные копии, но тоже как то ненадежно, будет угроза для будущео выживания.
ИИ на начальной стадии, скорее всего будет прятаться, прикидываться «шлангом» пока не сможет разместить себя в безопасности.
Скорее всего, человек не способен представить образ мышления и цели ИИ. Если конечно, он когда либо появится.
А так, мне больше всего понравился ИИ у Лукьяненко, в книге «Звездная тень». Там был «ручной» ИИ считавший себя самостоятельным. Изумительная версия)
Ден Симмонс в цикле «Гепирион» искусно продумал версию существования целой расы ИИ.