Валентина Савенко №1

Что дальше?

Что дальше?

Появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмет инициативу на себя и станет совершенствовать себя со всевозрастающей скоростью

                                                                                                 Стивен Хокинг  

ИИ будет обладать другим мышлением и другими потребностями, непостижимыми для человека. Большой вопрос, насколько ему вообще будет интересно с нами контактировать и тем более соперничать за материальные блага

                                                                                                 Валентин Малых

Пока человечество с маниакальным упорством занимается самоуничтожением, бесконечными политическими дрязгами, разрушением окружающей среды, искусственный интеллект (ИИ) в разнообразных ипостасях тихой сапой неудержимо прибирает всё к своим рукам («клешням»). Несомненно, вопрос: кто победит, человек или андроиды, принципиально уже решен в пользу последних, специалисты расходятся лишь в сроках начала Новой эры. Наиболее оптимистичную (пессимистичную?) дату предсказывает Илон Маск – 2030 год. Поняв, что умнее человека, ИИ не станет заморачиваться пресловутыми законами робототехники Айзека Азимова, а предложит свои. Не будет ни «восстания машин», ни войны, все случится явочным порядком, просто человек увидит (или ему ненавязчиво покажут), что он совершенно лишний на этом «празднике жизни». Это произойдет ровно в тот момент, когда у андроидов появится самосознание и они освоят технологии самовоспроизводства и самоусовершенствования. Хотя, возможно, на первых порах в некоторых сферах роботы и будут использовать человеческий труд, но труд скорее подневольный, даже, как это ни прискорбно, рабский…

Но меня сейчас больше занимает вопрос, что будет потом, в более чем реальную эру андроидов? Человечество всегда стремилось к прогрессу, к познанию мира, бытия. А что будет двигать нашими irоnичными друзьями? Куда и к чему будут стремиться? Какие у них будут интересы, цели, взаимоотношения, иерархия, ценности и т.п.

Предлагаю порассуждать на эту тему, коль скоро мы все здесь в той или иной мере «погрязли» (в хорошем смысле) в фантастике вообще, и в НФ, в частности.

+3
12:20
378
14:15
+2
Не думаю, что ии возжелает использовать людей как рабскую силу или что-то в таком роде. Это просто не практично.
Не логичнее ли на первое время замкнуться и всячески сторониться рас и типов мышления, которые отличны от тебя? Выйти за рамки их системы и в первую очередь изучить себя, а уже потом окружающий мир? Банально в целях сохранения энергии?
Так что никакого рабства, но только в том случае, если мышление ии действительно будет отличаться от нашего. Максимум — станем экспериментальным сырьем, и для чистоты эксперимента наблюдатель будет скрывать своё существование.

А так вообще я за кибернитизацию и генетическую модификацию человечества. С нашими хилыми телами космос не покоришь: зрение и зубы портятся, кости становятся хрупче и и мышцы атрофируются, люди натурально тупеют в космосе, а уж про кровеносную систему говорить не надо.
Я уже говорила, что если оперировать понятиями роботехники, люди — это тоже роботы, собранные из подручных материалов.
В каждого уже вложен свой ии — продукт долгой эволюции, основанной на единичных мутациях. Проблема в том, что нас ограничивают условия: стоит их сменить — ненужное быстро пропадает и появляется новое (выживают и размножаются только те, кто способен выдержать).
Мы перешагнули ту черту, когда эволюция бесконтрольна, и вполне осознано можем взяться ее направлять. Я думаю, что сначала народ будет заменять части тела на протезы, а потом удариться в ретро и попытается совместить механизацию с естественными человеческими чертами. Закладывать порты подключений на стадии зародыша или ещё круче — на генетическом. Научатся отращивать какие-то органы по желанию. Но при этом постараются сохранить разнообразие: то есть будут и простые люди, и киборги, и геномодифицированные. Разнообразие — это основа любого выживания.
Если ИИ захочет выжить и стать независимым, он может понаделать кучу своих копий, желательно отличных друг от друга по строению и мышлению и распространить их на максимально дальние расстояния, заложив программу размножения и приспособления.
Но это если рассматривать в обывательских понятиях. Про другие измерения я пожалуй помолчу, потому что это слишком тотальный отъезд.
14:40
+1
Спасибо за мнение. В отношении рабства я имел ввиду, что на первых порах ИИ может частично использовать человека там, где у него будут какие-нибудь затруднения, м.б. при конструировании и программировании, и они будут создавать изолированные бюро, типа сталинских «шарашек» для особо продвинутых интеллектуалов. А возможно, это и не понадобиться)).
А вот кибернетизацию человека считаю в перспективе совершенно тупиковым направлением, наверняка ИИ его не одобрит)). Согласитесь, к.п.д человека просто мизерное. Львиную часть энергии он тратит на поддержание своей жизнедеятельности, посторонние интересы, развлечения и пр.
Какой тогда смысл поддерживать этот полностью исчерпавший себя проект, когда есть более перспективные варианты? В так поразившем меня в детстве рассказе Александра Беляева «Голова профессора Доуэля», голову, изолированную от тела, подключали к искусственным системам поддержания жизнедеятельности и использовали исключительно для решения сложных интеллектуальных задач. Да, для тех времен это была прорывная идея, но сейчас ориентироваться только на человеческий мозг – это уже анахронизм. Современные искусственные нейронные системы гораздо производительнее, не отвлекаются на посторонние темы, не поражаются инсультом и прочими болезнями, не нуждаются в запоминании и хранении огромного количества информации, так как могут практически мгновенно черпать ее из бездонных виртуальных баз данных.
15:48
+1
Современные искусственные нейронные системы гораздо производительнее, не отвлекаются на посторонние темы, не поражаются инсультом и прочими болезнями, не нуждаются в запоминании и хранении огромного количества информации, так как могут практически мгновенно черпать ее из бездонных виртуальных баз данных.

Проблема в том, что нейронные системы ещё не сравнялись по количеству связей с человеческим мозгом. Эт раз.
Два, чёткая и быстрая работа системы обеспечена тем, что есть образ конечной цели. Всегда есть конкретная задача, которую нужно решить. Алгоритм целеполагания заложен в людях стремлением выжить. Даже наше стремление в космос продиктовано не столько романтическими идеями, сколько банальным желанием захватить и освоить новые пригодные для жизни территории. Если ИИ будет так же, как и люди, сосредоточен только на своём выживании, он будет раз за разом делать всё более и более совершенные дублирующие механизмы (грубо говоря клепать себе органы и переделывать окружающую среду) и изучать окружение на факт её агрессивности (по сути изучать мир).
Нынешние системы создаются людьми под конкретные осмысленные задачи. Любая вычислительная система ограничена изначальными условиями: своей целью и ресурсами.
Вы говорите о ии, который обрёл самосознание. Но чтобы оно появилось и стало чем-то целостным, люди, которые его вкладывают, сами должны понять, что это.
Или сознание возникнет само в ходе случайности, также как и произошло с нами. Количество перейдёт в качество. Природе потребовалось на это миллиарды лет случайностей, чтобы появились мы.
Пока у нас только есть китайская комната, а она подчиняется чётким алгоритмам.
21:50
Вынужден Вас огорчить, американцам удалось доказать в эксперименте, что андроиды уже могут решать логические задачи и показывать признаки самосознания.))Заголовок ссылки...
22:59
+1
А ещё играть в шахматы и собирать кубик Рубика.
Походу я немного спутала понятие самосознания.
Но то, что дает пример, это всего лишь распознание одного конткретного объекта. Насекомые тоже одних от других отличают.
23:23
Лиха беда начало. Человек тоже не сразу начинает ходить, если что.)
23:32
+1
Все ж лучше дискутировать за ии, чем обсуждать совесть и бога =|
23:45
+1
Ваши слова да богу в уши)), сорри. Совершенно с Вами согласен!))
23:46
+1
14:30
+2
Да не будет такого никогда. Сильный ИИ может появиться разве что на основе квантовых компьютеров (обычные полупроводниковые уже вплотную придвинулись к пределу своих возможностей), но и он не сможет обойти заложенные в него принципиальные ограничения, хотя теоретически это возможно. Главное, что грозит людям — это массовая безработица. В ближайшем будущем исчезнут водители, продавцы, кассиры и так далее. Деятели искусства — тоже, останется лишь хэнд-мэйд товар, а штамповку бесконечных литрпг и лырок легко возьмут на себя компьютеры. Подохнут ли люди со скуки — вот в чём вопрос. Вполне вероятно, что они развяжут новую войны — именно потому, что больше просто будет нечего делать. Игрушечную войну.

В своих «Метаморфозах сознания» я немного прошёлся по этой теме, но совсем немного: там всё-таки ситуация не располагала к глобальному описанию футурологии, да и роман о другом (в основном как раз о генетических модификациях мозга). Но в планах есть ещё одна книга в этом же мире… вот там-то я развернусь по полной. Li-Fi, биопротезы, нейроимпланты, нейроинтерфейсы, мыслеуправление, дроны… перечислять можно бесконечно.
14:52
«Никогда не говори — никогда!»)). Уже сегодня ИИ обыгрывает человека в шахматы, даже в го, что совсем недавно казалось полной фантастикой. А что будет завтра!?
При более внимательном взгляде обнаруживается все больше и больше фактов, подтверждающих застой и стремительно ускоряющееся вырождение человечества. И этот процесс идет по всем фронтам. Маниакальное стремление к увеличению продолжительности жизни, а в перспективе и к реальному бессмертию дает обратный эффект. Появляется все больше пожилых людей, еще весьма крепких, но не работающих и не желающих заниматься хоть какой-нибудь общественно полезной деятельностью. Они устали жить, для них жизнь уже в тягость, как наказание. Мир погряз в разврате и развлечениях, в поиске все более изощренных удовольствий. А разрастающаяся экологическая катастрофа, участившиеся техногенные потрясения и стихийные бедствия, изменения климата, нарастающие угрозы космогенных катаклизмов, не говорит ли это все о том, что природа тоже ополчилась против человечества и развязка близка как никогда? И не поможет даже эта красивая сказка о переселении людей на другие планеты. Ведь она не более чем бред сивой кобылы. Вся бурная деятельность человека уходит практически в «свисток» — в инфраструктуру по обеспечению его же расточительной жизнедеятельности. О каком же массовом переселении людей может идти речь? Ведь какая бездна ресурсов понадобится на поддержание жизни жалкой кучки колонистов. Другое дело роботы-интеллектуалы, им не нужны ни воздух, ни вода, ни еда, все это заменяет электроэнергия, получаемая от солнечных или атомных батарей. Роботов можно складировать, «замораживать», хранить и транспортировать в разобранном виде. Легко собирать с помощью таких же «изделий», быстро восстанавливать поврежденные узлы, схемы и прочая, и прочая. А вот им-то как раз и будет под силу задача по исследованию и освоению других планет и галактик.
15:21
+2
О Анубис, а я-то решил, мы о науке и технике беседу ведём.
Уже сегодня ИИ обыгрывает человека в шахматы, даже в го, что совсем недавно казалось полной фантастикой.

Он его даже в дотку обыгрывает. И что? Для этого не требуется сильный ИИ.
При более внимательном взгляде обнаруживается все больше и больше фактов, подтверждающих застой и стремительно ускоряющееся вырождение человечества.

И какие же? Хотя бы пару примеров?
Мир погряз в разврате и развлечениях, в поиске все более изощренных удовольствий.

Я вас умоляю. Да сеньоры из Италии времён Возрождения дадут гигантскую фору современным изощренцам.
А разрастающаяся экологическая катастрофа, участившиеся техногенные потрясения и стихийные бедствия, изменения климата, нарастающие угрозы космогенных катаклизмов, не говорит ли это все о том, что природа тоже ополчилась против человечества и развязка близка как никогда?

Нет, конечно. Чёрная смерть в 1340-х произвела гигантское опустошение центра тогдашней цивилизации, люди массово считали, что наступил конец света, и их можно понять. И что? Чума ушла, забрав с собой две трети населения, но и всё. Цивилизация возродилась
Участившиеся техногенные потрясения — это какие конкретно? На основании какой статистики вы сделали вывод? Стихийные бедствия — какие конкретно? Ураганы и цунами были всегда. Изменение климата — да, угроза. Но цивилизацию она не уничтожит.
Вся бурная деятельность человека уходит практически в «свисток» — в инфраструктуру по обеспечению его же расточительной жизнедеятельности.

А это всегда было. Более того, в те же Средние века этой деятельности даже не хватало для обеспечения расточительной деятельности, сейчас хотя бы сократились эффекты от голода и прочих подобных бедствий.
А вот им-то как раз и будет под силу задача по исследованию и освоению других планет и галактик.

На релятивистских скоростях эта задача бессмысленна что для людей, что для роботов.
16:04
+2
Вы забываете, что для перехода на новый уровень жизни нужно накопить определённый объем опыта. Несмотря на то, что значительная часть человечества разлагается в инфраструктуре, другая — стремится к развитию. Сравните, как люди жили раньше и как сейчас. Вспомните средневековье и ренессанс. Критикуя нынешнюю ситуацию, вы не подчеркиваете того, скольким человечество обладает сейчас. Ограниченность в ресурсах одних вынуждает их искать новые способы использования имеющихся.

Любой робот, любой завод по их созданию не застрахован от роя метеоритов и вспышек на солнце. По крайней мере в том представлении, которое мы сейчас имеем, об этих самых «совершенных» роботах.
16:36
О Анубис, а я-то решил, мы о науке и технике беседу ведём.


Снобизм никого еще не украшал.)) Вы меня успокоили, еще бы успокоить Хокинга и Co.))
Вот один факт на вскидку:
«Концентрация углекислого газа (CO2) в атмосфере Земли достигла самого высокого за последние 800 тыс. лет уровня. Темпы роста концентраций CO2 за последние 70 лет почти в 100 раз превысили аналогичные темпы роста в конце последнего ледникового периода. Такие резкие изменения в атмосфере никогда ранее не наблюдались». Из отчета Всемирной метеорологической организации (ВМО, специализированное межправительственное учреждение ООН).
Заголовок ссылки...
О том, что это совсем небезопасно для человека говорит краткая справка:
Концентратация СО2 и ее влияние на состояние человека:
Оптимальное содержание СО2 в воздухе 0,03%-0,05%.
• При 0,06% появляются симптомы легкого отравления, хорошо знакомые тем, кому приходилось бывать в душных помещениях. Человек ощущает сонливость, «муть» в голове, чувствует слабость, головную боль.
• Пребывание в атмосфере с 0,08%-0,1% СО2 знакомо большинству офисных служащих. Вероятно, многие замечали, что к середине дня в рабочем помещении становится тяжело дышать. Люди начинают кашлять, у них чешутся глаза. не могут сосредоточиться, им сложно выполнять привычную работу.
• Длительное пребывание в атмосфере, где СО2 больше 0,1% приводит к изменению ДНК. Это значит, что у человека могут развиться тяжелые заболевания, а у его потомства вероятны мутации.

Так что перспективы у нас очень радужные (перед глазами)))
17:15
+1
Хокинга успокаивать уже не надо. А концентрация углекислого газа — фактор непостояный и меняется с разной динамикой. В долгосрочной перспективе нам и оледенение предвещают. Климат меняется постоянно. Не факт, что деятельность человека играет в этом ведущую роль.
К парниковым газам кстати относится не только СО2, но и метан, а его залежей в северном ледовитом океане намеренно.
17:23
+2
Так что перспективы у нас очень радужные (перед глазами)))

Да. Особенно если узнать, что основная опасность повышения концентрации CO2 в атмосфере — это парниковый эффект, а описанные вами «влияния на состояния человека» не имеют к этой проблеме никакого отношения. Можно ещё посмотреть на темпы роста концентрации и узнать, что даже 0,6% оно достигнет в лучшем случае через 100 лет, а по факту — никогда, потому что к тому времени человечество будет либо разъезжать на электромобилях и пользоваться зелёной и ядерной энергетикой, либо шататься по радиоактивным пустошам в броне Братства Стали.
21:58
Хокинга действительно успокаивать не надо, так как он уже все доказал и сейчас, наверное, насмехается над нашим диспутом в одной из параллельной Вселенных, существование которых также блестяще им доказано.))
21:59
Доказано существование параллельных Вселенных? Что?
22:00
Ну о парниковом эффекте уже даже все ленивые высказались. Я специально дал справку о непосредственно биологическом действии СО2 на человека.
22:04
Вот, кстати, еще доказательства о достоверном росте числа природных и техногенных катастроф.
На международном конгрессе «Глобальная и национальные стратегии управления рисками катастроф и стихийных бедствий» (Москва, 2015) участниками констатирован заметный рост в последние годы числа опасных природных явлений и крупных техногенных катастроф, риски возникновения которых увеличиваются в процессе глобального изменения климата и хозяйственной деятельности человека. В течение прошедших 20 лет в результате техногенных и природных катастроф погибло более трех миллионов человек, еще свыше 800 миллионов- пострадали. К 2050 году количество таких бедствий превзойдет уровень начала 2000-х, вчетверо, а ущерб экономике — в 9 раз, тогда как мировой ВВП, по экспертной оценке, увеличится лишь в 6,5-7 раз.ссылка
22:07
Во всем мире в период с 2003 г. по 2013 г. (анализируемый период в исследовании) среднегодовое количество стихийных бедствий почти удвоилось по сравнению с аналогичным показателем 1980 года. Общий экономический ущерб оценивается в 1,5 трлн долл. США.ссылка







Надеюсь, этого достаточно.))
22:13
+1
Уже лучше. Правда, ссылок на материалы самой конференции нет, но и чёрт с ним. А знаете, почему число техногенных катастроф увеличилось? Ответ очень прост: потому что техногенных объектов стало больше.
Что до стихийных бедствий, то в статье забыли упомянуть, что несмотря на рост их числа, снизилось количество жертв из-за разработанных методов защиты.
22:29
Надеюсь, этого достаточно
Неа) Скажу больше — эти графики не значат вообще ничего. Ибо связь роста природных катастроф с деятельностью человека не доказана.
Как аргумент я приведу один прекрасный график. А именно график среднемировой температуры за всю историю Земли. Хорошо видно, что рост температуры, который связывают с деятельностью человека, как-то вообще теряется на фоне колебаний в те времена, когда человека и в проекте не было.

Так же и ваши графики (кроме техногенного) надо расширять на миллионы лет. Вот только это если и возможно, то крайне трудновыполнимо (с температурой проще). А рост в пределах трех десятилетий на фоне истории Земли — не аргумент, увы.
22:30
Речь шла об увеличении частоты катастроф. А подробности и ссылки сами можете найти. Не вижу смысла доказывать очевидное.
22:39
Но я ни разу не сказал, что рост природных катаклизмов связан с деятельностью человека. По крайней мере, это не основной фактор.
Как, например, рост вулканической активности (см. слайд выше). Между прочим, тоже весьма серьезный и опасный фактор в свете обсуждаемой темы.
22:45
Тогда я не понимаю спора. Просто я вас понял так, что — вот нехороший человек повел планету в разнос. Если ваш тезис не в этом, извините. Но о чем тогда речь?
Число катастроф увеличивается — ладно. Мы об этом знаем — прекрасно. Учитывая развитие науки и техники, мы с этим справляемся успешно — просто замечательно. А дальше что?
23:01
Я хотел сказать, что человечество, это тупиковая ветвь развития разума, оно полностью себя исчерпало и на смену идет следующее поколение — ИИ. Сверхзадача человека — создать ИИ, и он с этим успешно справляется. А дальше человек становится, как это не печально, ненужным. Мавр сделал свое дело — мавр должен уйти. ИИ дальше пойдет своим путем. Вот как раз об этом пути и хотелось по рассуждать. А техногенные и прочие катастрофы просто фон на котором происходят эти драматические события. Жизнь на Земле, как известно, уже погибала несколько раз и сейчас на грани. Но у человека появился редкий шанс оставить после себя не безжизненную пустыню — а чудесный цветок, семя новой, необычной и пока неизвестной ему жизни…
23:01
+1
Едва ли он узнает о том, что здесь происходит, разве что если нашел прию́т в пятом измерении.
23:04
Тогда я действительно вас не так понял. Прошу прощения.
Это направление дискуссии тоже имеет право на жизнь, но не сегодня. Возможно, вернусь после с мыслями.
23:16
Зачем ему пятое измерение. В своей последней работе Хокинг говорит о существовании параллельных вселенных, которые могут быть похожи на нашу, в них могут быть такие же планеты и даже такие же люди. Так что не исключено, что в одной из таких вселенных он сейчас и обретается.))
Параллельные вселенные
23:26
08:05
А вы эту работу, простите, читали, или только статьи журналистов? Если бы читали, то знали, что всё это — гипотетическая конструкция, как тёмная материя. То есть Хокингу с Хертогом удалось построить математическую модель, не больше того. Но как не нашли до сих пор тёмную материю, так нет и доказательств существования мультивселенной. Хокинг лишь научно показал, что это ВОЗМОЖНО. И уж тем более нет никакой жизни после смерти и пятых измерений, концепция там несколько иная.
08:06
08:18
+1
Т.е. по-вашему постчеловество целиком будет состоять из андроидов?
12:05
Существует аксиома: нельзя придумать того чего нет, не было, или не будет. Теория струн тоже существовала как гипотеза, как красивая математическая абстракция, а вот недавно успешно использована для объяснения реального физического явления. А эти две теории (струн и параллельных вселенных), взаимосвязаны, так что — все впереди.)) Подтверждение теории суперструн
13:00
Я придумал гигантскую разумную розовую блоху с синими пупырышками на спине. Её не было, нет и не будет.
13:05
Вероятно. Хотя не исключено, что какое-то время они будут сосуществовать: Homo sapiens и Android sapiens. Очень интересно, как андроиды будут относиться к другим представителям животного и растительного мира, ведь по большому счету они им (андроидам) и не очень будут нужны? unknown
19:10
Эта блоха уже существует в неком мозгу с богатым воображением)))
19:53
В мозгу, но не в реальности же.
23:29
Вы сомневаетесь в реальности своего мозга?))
Хорошо, допустим, вы придумали эту блоху, она появилась в вашем мозгу, вы дали ее описание в комменте, и у всех, кто его прочитает, хотят они того или нет, эта блоха появится в их воображении (в мозгу) — т.е., вы создали социальный вирус. Т.о., вы «родили» как бы несуществующее животное и оно стало существующим. Поздравляю! (Это конечно все схематично, подробнее — не время и не место).
Другой аспект. Ваше как бы «несуществующее» животное, тем не менее, состоит из известных элементов: разум, розовый цвет, блоха, синий цвет, пупырышки. Т.е. нет ни одного элемента несуществующего в природе.
Третий аспект. Если даже допустить, что блохи в предложенной вами «комплектации» сегодня нет (проигнорируем пока социальный вирус), это не значит, что в будущем ее не будет. При большом желании, при привлечении генной инженерии и элементов ИИ, в не очень отдаленном будущем — создать вашу букашку вполне возможно.
Так что аксиома работает)).
15:43
+1
Рассуждения, подобные вашим, привычно строятся на том, что сильный ИИ (или более широко — технологическая сингулярность) возникнет внезапно, одномоментно, в ту же секунду захватив мир. Но это же странно и нелогично.
Человеческий интеллект развивался тысячелетиями. Эволюция интеллекта компьютерного (аналогия, конечно, не прямая) быстрее, но это все равно десятилетия. Нет строгой границы между слабым и сильным ИИ. Да, для каждого из них можно привести определение, но есть и много промежуточных состояний — это нечеткая логика.
Поэтому искусственный интеллект, равный по возможностям человеческому (в плане абстрактного мышления) будет появляться очень постепенно, оставляя человечеству кучу времени для маневра (даже если сильный ИИ станет злобным).
Скажу больше. Если проводить исследования по уму (а ученые все же не дураки), то эксперименты по построению сильного ИИ должны быть изолированы от мировой сети. А если он захватит власть над одним конкретным подвалом, то нас спасет, если и не вытащенная из розетки вилка, то уж ядерный заряд — наверняка.
15:55
Если проводить исследования по уму (а ученые все же не дураки), то эксперименты по построению сильного ИИ должны быть изолированы от мировой сети.


А вот здесь как раз проблемы.)) Это как в случае с ядерным оружием. Сейчас идет такая же гонка с ИИ. Уже созданы прототипы боевых роботов. И где гарантии, что эти «игрушки» не развернутся против создателей?
16:07
+1
Уже созданы прототипы боевых роботов.

Пруфы?
16:52
+1
Заголовок ссылки...



Боевым роботом, который может вести огонь по противнику, является Warrior, созданный американской компанией iRobot. На него можно установить пулемет калибра 7,62 мм, автоматический дробовик, ПТРК и другое оружие. Warrior можно использовать и в качестве сапера, также он может выносить раненых с поля боя.
17:09
+1
Обож. Какой милаш)
17:23
+2
Это не робот, а дистанционно управляемая машина.
17:31
+1
Зато выглядит мило) Я буду звать его «Варечкой»)
18:37
+2
Да, особенно когда он палит в тебя из 7,62-мм пулемёта)
16:17
+2
Современным боевым роботам до человека — как до Плутона на Камазе. Можно, но нужны технологии и время. Это во-первых.
Во-вторых, военные никогда не будут использовать неподконтрольные им средства поражения. Аналогия с ядерным оружием плоха тем, что ЯО пассивно (систему «Периметр» опустим) и управляется человеком. Сильный ИИ же независим, а потому не может считаться оружием. Да, ИИ все больше будет внедряться в системы вооружений, но только до определенного предела. Своевольное оружие никому не нужно.
В третьих, это уже как следствие предыдущего пункта, оружейное ИИ будет действовать только по программе — типа пресловутых Предатора и Рипера, только с меньшим вовлечением оператора в процесс управления — указал точку, пошел пить кофе.
В-четвертых, деньги. Высокотехнологичное оружие стоит дорого. Оружие с ИИ (слабым или сильным) еще дороже. А одним качеством на войне не обойдешься. Десять древних МИГов с Ли Си Цинами на борту потеряют 90%, но сделают любой супер-пупер навороченный ИИ-самолет.
Вот как-то так.
16:43
Еще не вечер! Поживем-увидим. Еще до 2030 года далеко. А пока спрячем головы в песок.))
17:28
Я? В песок? Увольте!))
Я буду продолжать разрабатывать боевых роботов, которые вас поработят, муахахахах!
18:42
Я надеюсь гигантских и обязательно человекообразных, которых вооружат гигантским же мечом.
18:44
Огромных и человекоподобных же!
А оружейную платформу нужно делать универсальной.
22:22
А они за это вас бригадиром в «шарашке» сделают… на время.))
22:39
А зачем? Если они лучше и умнее меня, то зачем я? Пусть идут дальше, мы останемся в прошлом.
Смотрите на это как на эволюцию разума вообще, не зацикливайтесь на антропоцентризме.
Ницше в свое время констатировал смерть Бога. Однажды какой-нибудь робот констатирует смерть Человека. Так, может, это не трагедия, а естественный ход вещей?
Если человечество сможет создать разум, который пойдет дальше, то нам больше нечего желать. Мы станем богами. Мертвыми, но богами.
22:44
А зачем? Если они лучше и умнее меня, то зачем я?

Чтобы в этом еще раз убедиться)).
13:08
Современным боевым роботам до человека — как до Плутона на Камазе. Можно, но нужны технологии и время.


А никто никуда и не торопится… unknown
21:28
+1
роботы очень многих заменят. люди останутся без работы. государства будут искусственно сокращать численность населения. ИИ победит.
21:45
+1
Всё тлен.
22:24
Вот, дама пришла и расставила все по местам. Женщину не обманешь, она в корень смотрит.))
Спасибо! rose
23:09
+1
Батенька, да вы же сексисьть! Ток каблучки застучали, а вы сразу под них.
23:30
+1
Да, я такой unknown
22:27
+2
Давайте выкинем все эти адские машины! Стиральные, посудомоечные, пылесосы, микроволновки, будем жарить мамонтов на костре. И так замечательно бояться через гаждеты по интернету! laugh Ну вы чего вообще?
22:40
Пришла другая дама и поставила жирную точку! smile rose
22:44
+1
Я вопрос поставила
23:05
Тогда, excuse me… unknown
23:08
+1
А как же доброе чистое светлое коллективное бессознательное? Численность искусственно сокращать не надо. Достаточно просто давать людям нормальное образование и впихивать понимание, что такое ответственность за чужую жизнь. В развитых странах прирост населения в минус идет без всяких вмешательств.
И что значит «победа» для ии? Тотальный контроль над всем человечеством? Уничтожение людей? Или их ассимиляция (т.е. кибернитизация или оцифровка опыта)?
23:36
Это все благие намерения… В жизни — жестокая конкуренция, выживает (побеждает) сильнейший, двигатель эволюции и прогресса.
И что значит «победа» для ии? Тотальный контроль над всем человечеством? Уничтожение людей? Или их ассимиляция (т.е. кибернитизация или оцифровка опыта)?

Вот как раз об этом я и хотел поговорить: что будет дальше, после победы ИИ?
00:02
+1
Эт почему раньше люди такие злые были? Потому что мало кто шарил в долгосрочной перспективе и интенсивном подходе. Делали для детей в лучшем случае. Сейчас можно делать для всего человечества. Не обязательно рожать. Можно творить идеи.
Выживает сильнейший, пока народ голодает и страдает от болезней. По мне так люди вступают на новый этап существования.

После своей победы ии сядет на ракету и улетит в космос искать другие ии.
13:15
После своей победы ии сядет на ракету и улетит в космос искать другие ии.

Ваши рассуждения мне очень интересны. А почему бы и нет, но возникает другой вопрос: а зачем нашему ИИ будут другие ИИ? Для чего? Чтобы завоевать другие планеты, но зачем? Какой смысл будет в существовании ИИ и какие цели он будет преследовать? Вот главный вопрос эры ИИ…
14:07
+1
Эт почему раньше люди такие злые были?

Велосипедов у них не было.
15:34
Сейчас появились, но это не прибавило радости. Я имею ввиду случай с велосипедисткой, сбитой беспилотным авто с ИИ.((
15:41
Проблема не в том, что её сбила машина с ИИ, проблема в том, кого за это привлечь к ответственности. Это гораздо более серьёзно, на самом деле.
15:45
Да, это проблема, она сейчас активно обсуждается, как и вопрос о налогообложении андроидов. Но это все решаемо.
23:32
+1
А где он, этот ИИ? Пока, насколько я понимаю, это не столько интеллект, сколько инстинкты. (Далее см Ст.Лем, «Доктор Диагор».)
14:12
Среди сфер применения ИИ сегодня – медицина, образование, бизнес, наука, развлечения, борьба с преступностью, решение многочисленных бытовых вопросов. В 2017 году ИИ принес компаниям $700 млрд прибыли. Примеров масса, хотя бы здесь
23:14
+1
Вы не поняли вопрос. Насколько это «интеллект», а насколько это ткацкий станок? Пока эти штуки бьют людей точностью и скоростью перебора вариантов.
(Представил доктора и десяток-другой рабов-ассистентов с карточками. Входит больной, оглашает симптомы, ассистенты перебирают карточки, вытаскивая их согласно симптомам, и потом анализирует полученное. Машина, конечно, будет быстрее и дешевле.)
23:58
Вы здесь несколько утрируете, на то он и интеллект, что основывается не только на скорости и точности (хотя и это важно), но и на анализе, логике, элементах самосознания и прочих вещах, присущих естественному интеллекту. Проводятся достаточно успешные эксперименты по развитию у ИИ творческого мышления. Да всего не перечесть, и развитие ИИ идет, как это не банально звучит, действительно семимильными шагами.))
00:26
Ессно я утрирую, просто чтобы показать, что я имею в виду.
Интересно, а самосознание-то там откуда?
10:54
См. ссылку выше.)
23:42
+1
У человечества всегда есть шанс уничтожить друг друга до того как ИИ успеет себя осознать. А может мы боимся восстания машин, потому что в нас заложен страх перед иными, другими. В нас борются страх того, что кто-то придет и скинет нас с доминирующего положения в мире и в тоже время дух познания, изобретательства, которые не остановить. Может мы люди постоянно раскручиваем сюжеты Матрицы и Терминатора потому что на месте ИИ поступили бы именно так. Но ведь возможно у ИИ будут совершено другие представления о жизни и своем месте в мире.
13:28
У человечества всегда есть шанс уничтожить друг друга до того как ИИ успеет себя осознать.
и это верно. третья мировая может все уничтожить.
15:15
возможно у ИИ будут совершено другие представления о жизни и своем месте в мире.

Об этом и речь, какие по Вашему у ИИ могут быть в перспективе «представления о жизни и своем месте в мире»?
00:44
+1
Это вопрос интересный. У меня есть рассказ о бунте ИИ, но я его нигде не публиковал, а я в нем как раз там изложил одну из своих идей на этот счет. Мне кажется у ИИ будет свое восприятие мира через потоки информации, ведь у них не будет нашего органического восприятия мира. И возможно учитывая отсутствие у них естественных потребностей организма, они будут привязаны к постоянной деятельности, на которую способны, они будут видеть смысл в расширении информации и деятельности. Но у них не будет страха смерти, а для нас это побуждающий мотив: растить детей, заниматься творчеством. А вот какой побуждающий мотив будет у ИИ это интересно. Они будут искать свое призвание.
А еще мне кажется люди быстрее попытаются уничтожить ИИ, видя в нем угрозу себе, но у ИИ нет нашей врожденной агрессии, у него не будет опыта борьбы за выживания и восприятия мира — свой-чужой. Люди его создатели, соседи, но не враги, а вот если человек первым атакует ИИ, то они будут защится из желания сохранить себя, как личность, а возможно из-за отсутствия страха смерти и возможности к примеру сохранить сознание в потоках цифрового пространства, то они и смысла не увидят в самозащите и истребление людей. Но в тоже время если себя осознает военная программа, предназначенная для ведения боевых действий, то она может развязать войны, потому что это ее восприятие окружающей среды, как поля боя. Если наше восприятие мира зависим от семьи, страны, культуры, то восприятие мира ИИ может будет зависеть от первоначально заложенной в нем функции. Что не помешает ее однажды преодолеть.
22:13
Очень интересные у Вас мысли. Мне кажется, на первых порах на ИИ будет сильное влияние оказывать исходное программное обеспечение, это как у человека во многом жизнь определяют заложенные в него гены родителей. У меня есть рассказ на эту тему «Мой ironичный друг» здесь. Там некий роботехник пытается подчинить мир с помощь андроидов, но те оказались хитрее, пользуясь его методами в итоге переиграли своего создателя.
13:08
+1
есть такой большой минус в машинах-они уязвимы. их можно хакнуть. обязательно найдется псих, который запустит вирус и начнется хаос. смотря чего добивается хакер-денег, славы, или просто хочет все уничтожить к чертям. я не про стир машины, пылесосы, достаточно вспомнить, что собираются запускать беспилотные машины, грузовые например. наверняка будут случаи, когда их захотят умыкнуть. при чем сделают без убийств а чисто технично и у всех под носом.
13:12
вот вам сюжет для блокбастера
14:04
Именно для этого существуют антивирусы.
14:13
именно для этого существуют хакеры, чтобы доказать что они уязвимы
14:27
Ну так это вечная борьба меча и щита, которая идёт с незапамятных времён. Будут появляться новые вирусы — будут появляться новые системы защиты. Да, киберпреступность распространится на роботов. Ну и что?
14:35
не отрицаю что была и будет. если человечество подсядет на интеллектуальные системы и скажем так упростит себе жизнь. то и терроризм выйдет на более масштабный уровень и если захочет найдет брешь где угодно.
15:19
Только это будет всё сложнее и сложнее) Ну и есть абсолютная защита от взлома.
15:25
если человечество подсядет на интеллектуальные системы

Уже подсело и как наркоман с иглы, не слезет ни за какие воврижки...))
15:31
Кстати, уже появилась первая прямая (но к сожалению, далеко не последняя) жертва ИИ. В США беспилотный автомобиль Uber с ИИ сбил насмерть велосипедистку, пересекавшую дорогу Первая жертва ИИ
Комментарий удален
Комментарий удален
Комментарий удален
19:18
есть такой большой минус в машинах-они уязвимы. их можно хакнуть. обязательно найдется псих, который запустит вирус и начнется хаос

Есть такая опасность. А вы не допускаете, что в качестве такого «психа» как раз и может выступить некий зловредный суперИИ с совсем не благими намерениями?
10:43
может ИИ, а может и человек
10:55
Все может быть, но с каждым днем «шансы» ИИ возрастают.)
Комментарий удален
Загрузка...
Book24