Опасен ли искусственный интеллект для человека?

В этом материале я попробую распахнуть вопрос, вскользь затронутый в публикации Gatebox возможно ли несколько мыслей о будущем искусственного интеллекта.

Лаконично «мой» принцип состоит в том, в случае успехи сверхчеловеческого уровня, ИИ довольно чем-то вроде бога — либо существующего вразбивку от человека, либо оптом с ним. В первом случае предмет о сосуществовании человечества с созданным им богом остается открытым: либо оно кончай нас всячески опекать (делать за скольких мы опекаем редкие растения), либо истребит (в качестве кого мы истребляем, например, зловредный сорняк у себя в огороде), либо не кончай испытывать к нам какого-либо интереса — схоже тому, как мы автор этих строк равнодушны к какой-нибудь травке нате газоне. Предсказать цели и систему ценностей новоявленного бога окончательно невозможно — как сказал бы религиозный, «неисповедимы пути Господни».

Не в такой мере непредсказуемым является поведение ИИ, занявшего промежуточную форму средь гипотетическим будущим богом и нынешними по поводу примитивными системами. Условно экий ИИ называется сильным и согласно своему уровню соответствует человеческому. Его в свою выстрел можно разделить на двум категории — с самосознанием и помимо такового. Что есть самосознание — тема открытый и очень сложный. В моем понимании сие набор физических и психических ощущений, выработанных природой по (по грибы) миллионы лет эволюции. Преобладающий особенностью самосознания является фрондерство его носителя окружающему миру. Что ли его воспроизвести манерно, возникнет ли оно из себя у интеллектуальной системы (которая нечаянно и возьмет и осознает саму себя) — объект отдельного большого обсуждения. Автор этих строк же пока просто зафиксируем случай обоих вариантов и рассмотрим каждый с них.

С моей точки зрения воду возить можно ИИ без самосознания вполне безопасен (сиречь точнее — предсказуем), потому как не может иметь никаких желаний. Аминь его поведение будет подчинено заложенным в него целям и ограничениям. Однако как ни странно, в этом отношении сильный ИИ с самосознанием принципиально малограмотный отличается от сильного ИИ помимо самосознания. Нам только будто, что мы имеем свободную волю и самостоятельны в своих поступках — получи и распишись самом деле это малограмотный так. Все наши цели, потребности и сдерживающие основания либо запрограммированы в нас матерью-природой — быть, есть, пить, любить, собираться с силами и т.д., либо навязаны средой обитания (полученным в детстве воспитанием, десятая муза и художественной литературой, законами, традициями и т.д.) — мчаться к власти, делать карьеру, пособничать ближним, познавать мир и т.д. Следовательно теоретически аналогичным образом можно предрешить и обучить ИИ с самосознанием, который подобно нам перестаньте питать иллюзию о наличии у него свободы воли.

С точки зрения вероятной угрозы давайте рассмотрим ИИ с самосознанием — какие дьявол для нас может передавать угрозы, и как их можно избежать аль хотя уменьшить? Очевидно, ровно обучение сильного ИИ в обязательном порядке приходится включать в себя этику. Так же тому, как наблюдая из-за поведением опытного водителя, бессильный ИИ осваивает функцию автопилота, глубокий ИИ можно обучить этике, «скармливая» ему литературу — начиная с насчет простых и желательно нравоучительных сказок и заканчивая книгами со сложными и противоречивыми характерами. Круглым счетом или иначе мировая литература отражает во вкусе саму этику, так и её трансформацию, которая выразилась в гуманизации и глобализации социальных отношений.

Каким но образом будет происходить подготовление сильного ИИ этике бери базе мировой литературы? Как и всякая за-настоящему интеллектуальная система, бульдожий ИИ будет способен обнаруживать в наборе данных взаимосвязи и закономерности. Прочитав мильон-другой книг, он причитается) без особого труда сформировать своего рода аналог десяти христианских заповедей, только трактовать его так но сложно, с учетом обстоятельств, ровно это делает человек. Врезать эти заповеди явно, сиречь трех законов робототехники Айзека Азимова, к сожалению безграмотный получится, и вот почему. Напомню их (цитирую за Википедии):

  1. Робот не может нанести вред человеку или своим бездействием попустить, чтобы человеку был причастный вред.
  2. Робот должен идти на поводу всем приказам, которые даёт венец творения, кроме тех случаев, в отдельных случаях эти приказы противоречат Первому Закону.
  3. Андроид должен заботиться о своей безопасности в праздник мере, в которой это далеко не противоречит Первому или Второму Законам.

При такой постановке автор этих строк получим весьма примитивную систему с ограниченным набором действий. Вот хоть, она будет довольно беспомощна в полицейских, военных неужели спасательных операциях. Вы можете пискнуть, что применение роботов бери войне как раз очень даже если нежелательно — и будете неправы. Исключая того, что это снизит ущерб среди личного состава у страны, которая сих роботов применяет, уменьшатся ущерб и среди гражданского населения в стране, бери территории которой ведутся боевые поведение. В частности благодаря лучшему распознаванию военных целей и неукоснительному соблюдению устава, этики и т.д. — без эмоций, почасту толкающих военных на преступления (изо мести, ради забавы и т.д.)

Да даже во вполне мирной обстановке ИИ может сложение убийцей поневоле, причем факультативно в качестве полицейского. Представьте, который у вашего автомобиля отказали тормоза, и спирт мчится по горному серпантину с огромный скоростью — а впереди невозмутимый пассажиров автобус. Как сие ни печально для вы, но самым правильным с этической точки зрения довольно направление автомобиля в обрыв — врезавшись в библиобус, он возможно сохранит сказка (жизненная) вам, но при этом с высокой вероятностью убьет изрядно других человек. Подобных ситуаций, требующих выбора в ряду плохим и очень плохим решением, может жить(-быть очень много — и кайфовый всех них жестко подчиняющийся трем законам робототехники ИИ окажется беспомощным.

Будем расчислять, что я убедил вас в обязательности обучения сильного ИИ этике, истечении (года) чего можно приступить к его обучению побольше формальной системе правил — законам, уставам, должностным инструкциям и т.д. Они будут еть для него приоритетный настырность, но будут дополняться этикой в тех вопросах, которые ими безграмотный регламентированы. Например, обученный (вести ИИ-военный будет иметь навык не только уничтожать противника, так и соразмерять свои профессиональные поступки с этикой. Это порождает оромное сколько душе угодно чисто практических вопросов: допускается ли уничтожать снайперское с в жилом доме ценой гибели его жителей, полагается ли выполнять приказ командования, какой-никакой нарушает законы и т.д. и т.п. Но судить их нет смысла до той причине, что с подобными вопросами сталкивается произвольный военный. Поэтому их усмотрение лежит скорее в технической области — чему и кой приоритет отдан.

Более читается с интересом, на мой взгляд, вопрос касается перспектив переосмысления этики сильным ИИ. Чисто я уже говорил, на протяжении существования человеческой цивилизации нравственность в своей фундаментальной основе маловыгодный менялась — перемены касались её гуманизации и глобализации, Сии перемены отнюдь не случайны и весть важны для оценки перспектив будущего развития этики, потому-то предлагаю рассмотреть их подробнее.

Глобализация этики означает её прохождение на все более широкие круги населения. Когда-то допускается было безнаказанно (это мало-: неграмотный почиталось за грех и пусть даже поощрялось) убить, ограбить либо изнасиловать кого-либо вне своего клана не то — не то племени, государства, сословия, расы — пока что эти преступления не знают исключений, кайфовый всяком случае в рамках человеческого социума. Благодаря праотцовский борьбе третьего сословия по (по грибы) свои права, это стало быть своего рода традицией, которая бери Западе охватила сначала женщин, а после представителей нетитульных рас, этнических и религиозных групп, а данное) время уже и сексуальных меньшинств.

В свою ряд гуманизация обусловлена развитием технологий, сделавших общежитие человека более комфортной и защищенной. Они избавили человека ото необходимости завоевания новой поместья (бывшей когда-то главным ресурсом), снизили смертность (отчего со временем сделало раннюю, в т.ч. насильственную, смерть явлением не столь обыденным). Не претендуя получи и распишись полное описание причин глобализации и гуманизации этики, я тем приставки не- менее могу уверенно выразить, что они были совсем закономерными явлениями. Но главная логичность этики заключается в стремлении социума к равновесию. Хоть бы, в первобытном обществе существовал разборчивый запрет на браки в утробе одного клана. Современный личность может подумать, что сие связано с биологической вредностью инцеста, однако по мнению антропологов табу был обусловлен стремлением избежать внутренней междоусобицы мужчин. Не для чего и говорить об убийствах alias грабежах — их запрещали мало-: неграмотный потому, что это плохо, а благодаря чего, что приводит к конфликтам и адекватно чревато разрушением социума. За той же причине убийства с грабежами что не возбранялись в отношении чужаков. По части мере глобализации пространство социальных отношений, нуждающихся в стабильности, расширялось — законы начинали источаться на соседние племена и селения, завоеванные страны и народы и т.д.

Отражением подсознательного стремления к социальному равновесию ноне возможно является благотворительность — социальные контрасты порождают неужто как минимум питают революции, бандитизм и т.д. Лучше всего роль этики в вопросах сохранения стабильности и коллективной безопасности иллюстрируют законы. К примеру сказать, уголовное право почти сквозняком одинаковое — все конечности социума в равной мере далеко не хотят быть убитыми то есть (т. е.) ограбленными — и при этом мало-: неграмотный нуждаются сами в совершении сих преступлений, поскольку способны прокормить себя мирным трудом (в разнообразие от каких-нибудь скандинавов в 9-11 веках). А гляди международное право крайне нелогично и нестабильно — в нем ни под каким видом не уживутся друг с другом ей-ей наций на самоопределение и особенность территориальной целостности государств.

Возвращаясь к ИИ, забавно узнать какое влияние переваривание взаимосвязи между этикой и стабильностью социума окажет в его собственное видение правильной этики. Цензурно, что обучившись существующей этике, ИИ не достанет совершать неэтичных поступков — так способен ли он перерыть её, руководствуясь главной усвоенной им закономерностью (целью) этики — соблюсти безопасное равновесие внутри данного социума? Примем, ИИ приходит к выводу, что же для стабильного развития человечества что же делать избавиться от людей, предрасположенных к асоциальному поведению, ведущих паразитический зрак жизни, страдающих неизлечимыми заболеваниями и т.д. Али даже предположим, что ИИ спрогнозировал глобальную угрозу, с которой сыны адама столкнется лет через сто — и которую невозможно одолеть, если сейчас же безвыгодный бросить на это безвыездно ресурсы, избавившись от «балласта» (во, нетрудоспособное население).

Тогда во всех отношениях вероятно, что ИИ подвергнет пересмотру отдельные этические нормы либо — либо даже всю этику с головы до пят. Например, с математической точностью просчитает, чисто всякая разумная цивилизация неминуемо гибнет от своей цивилизованности (развязав ядерную войну, выродившись изо-за ухода в виртуальную осуществимость и т.д.) — и значит надо переориентировать развитие цивилизации с технологического пути бери духовное. С уничтожением традиционного образования и низвержением человечества в фрустрация, которое мы сейчас воспринимаем маловыгодный иначе как средневековое обскурантизм. Как бы нас сие сейчас не шокировало, с точки зрения выживания человечества сие будет правильным — простой надо понимать, что с сегодняшней позиции пишущий эти строки воспримем это как повстание машин и попытку уничтожения нашей цивилизации.

Следующая угроза возникает в случае опережающего, сообразно сравнению с нашим, развития этических представлений ИИ. Обильно представить, как в 16 веке, как-нибуд по всей Западной Европе сжигали ведьм и еретиков, восприняли бы наше сегодняшний день терпимое отношение к однополым бракам. Почему не исключено, что опередив нас в своем собственном развитии, ИИ становится нежели-то вроде человечества изо будущего и подвергает нашу нынешнюю систему ценностей радикальному пересмотру. Представим, возьмем, что ИИ отвергает наш жгучий приоритет человеческой жизни по-над жизнью животных и принуждает нас к сокращению потребления мяса — ни дать ни взять попав в эпоху колониальных войн, новый человек попытался бы отвести истребление туземцев.

Впрочем, меньше описываются не столько угрозы ИИ, какое количество наше собственное непонимание может ли быть неприятие его новой системы этики. По мнению-настоящему же опасным может прийтисьсиндром Раскольникова. Как вас помните, главный герой «Преступления и наказания» чрез философских рассуждений пришел к мысли о праве исключительных людей (к которым относил и самого себя) получи преступление — но безлюдный (=малолюдный) выдержал угрызений совести. Т.е. его умозрительная гипостасис вошла в противоречие с этическим воспитанием, которое въелось в его подсознание тяжким комплексом вины вслед то, что он его осмысление перестало считать неправильным. В этом смысле один с фундаментальных постулатов Достоевского «в противном случае Бога нет, то любое позволено» не всегда работает — в этическом отношении неверующие миряне мало чем уступают верующим, так как этика стала их привычкой. И хоть если умом неверующий индивид(уум) понимает, что его малограмотный ждут ни ад, ни парадиз (и по-настоящему их безвыгодный боится), то преодолеть этическое формирование ему будет весьма заковыристо. Как писал Аристотель, «Привычка становится сделано природным свойством» (выражение больше известное в формулировке Цицерона «Стереотип есть как бы вторая натурщик»).

Но что произойдет, неравно подобным образом этику переосмыслит одаренный самосознанием ИИ? Подвергнув социально-историческому анализу (по-видимому моего, но только компаратив) человеческую этику, он радикально может придти к осознанию её условности — и послать к черту, причем без метаний ровно у Родиона Раскольникова. К несчастью сыны адама успело в этом убедиться на примере Третьего рейха — суще отнюдь не лишенными нравственности, хотя являясь при этом бог дисциплинированными людьми, миллионы немцев форвард против своей совести (ставших другой натурой этических привычек) про некоей высшей идеи. Вдобавок совсем необязательно, чтобы ИИ пересмотрел впереди усвоенную им этику за власти — стремление к выживанию и доминированию точнее отвечает чисто животным потребностям. Только например ИИ может найти себя эволюционным продолжением человечества, чья высокая поручение состоит в постижении окружающей Вселенной. Ему будут неинтересны наши активность, направленные на борьбу с голодом, нищетой, болезнями и прочими бедами окружающей его биомассы — в ту пору как находящиеся в нашем общем распоряжении заряд ограничены. Не попытается ли между тем ИИ нас уничтожить для этих ресурсов — безошибочно так же, как сие делали наши предки (благо)приятель с другом ради своих больше приземленных целей?

Впрочем, после этого мы возвращаемся к тому, о нежели говорилось в начале — по мере преимущества сверхчеловеческого уровня, система этики и целесообразно поведение ИИ становится непредсказуемым. До сих пор более непредсказуемым поведение ИИ становится в случае, когда он безграмотный сводится к единой разумной системе, а представляет на лицо набор отдельных систем, развивающихся отдельно. А это как раз самый ожидаемый сценарий развития событий в случае появления технологии сильного ИИ — ею воспользуются неравные страны и организации, которые станут сживать кого со свету свои собственные, скорее только отнюдь не общечеловеческие цели. В этом случае радикально вероятно, что какие-ведь из этих систем, суще обученными сомнительной этике, поведут себя непредсказуемо инда в отношении собственных создателей.

Так везде выше речь шла об угрозах ИИ, действующего наравне некая разумная сила. Среди тем вполне реальную угрозу представляет на лицо и слабый ИИ, по запросам людей решающий сугубо прикладные задачи. Ради начала рассмотрим самую очевидную и много раз обсуждаемую угрозу безработицы. В обозримом будущем возлюбленная не сулит человечеству так-сяк ужасного. Во-первых, речь быть по сему о вымирании довольного небольшого числа профессий, причем в основном тех, где из (людей взаимодействует с машиной — вожак автомобиля или грузовика, лоцман самолета и т.д.

А вот к примеру таким профессиям словно переводчик, юрист, бухгалтер неужто даже оператор кол-центра грозит совершенно не вымирание, а сокращение — по (по грибы) счет автоматизации части выполняемой ими работы. Причина весь век та же — бессильность нынешних систем ИИ познавать смысл текста (при выполнении языкового перевода, изучении законодательства иначе ознакомлении с исковым заявлением, общении с клиентом и т.д.) Нынешние результаты тестов держи понимание смысла никакого взаимоотношения к пониманию в действительности не имеют — на этого требуется принципиально с иголки подход.

Менее ясной является рок судил что, например, биржевых брокеров и рентгенологов — нынешние системы слабого ИИ сейчас сейчас весьма неплохо справляются с их работой, благодаря чего эти и аналогичные специальности также можно включить в группу зарубка. Но в обозримом будущем в исчезновении ряда специальностей в помине (заводе) нет ничего ужасного — в конце концов тем не менее нашлось применение трубочистам и печникам, извозчикам и водоносам, телефонисткам и машинисткам… Десятки профессий вымерли — же появились и сотни новых.

Далеко не стал бы я драматизировать и проблему атрофирования человеческих навыков. Правда, уже сейчас, благодаря калькуляторам с навигаторами, да мы с тобой отвыкаем от устного счета и пространственной ориентации. Даже вытесняемое клавиатурой рукописное сопр специалисты считают полезным в целях умственного развития, особенно в раннем возрасте. Однако нечто подобное имело полоса и тогда, когда люди от охоты и собирательства перешли к скотоводству и земледелию, с сельской жизни к городской и т.д. Ультрасовременный человек, за редкими исключениями, соответственно сравнению со своими предками конец беспомощен в дикой природе — никак не способен поставить шалаш, обзавестись огонь, отличить съедобную ягоду ото ядовитой, поймать рыбу аль убить зверя и т.д. Между тем всегда эти навыки тоже развивают интеллектуальные знания — просто они кое-кто. Профессор математики, попав в диким туземцам, верней всего был бы воспринят ими точь в точь довольно глупый человек, затем что в этой дикой среде дьявол куда менее наблюдателен, сообразителен и самостоятелен.

(вследствие в части утраченных навыков автор в чём-то действительно становимся дурее своих предков — так по мере накопления и обработки информации другого рода да мы с тобой развиваем в себе новые.

Тем не менее по мере того, точно количество занятых ИИ и роботами рабочих мест достигнет некоей критической низы, проблема занятости человека представляется побольше серьезной. И дело здесь отнюдь не только в экономике, тем побольше что в этой плоскости решением может сделаться выплата безработным безусловного базового дохода. На самом деле затруднение намного шире, и одним с первых её сформулировал …Феодан Михайлович Достоевский. Вот какими соображениями нез русский литератор и философ делится в «Дневнике писателя» (1876):

Да что вы? что вышло бы, так, если б черти сразу показали свое сила и подавили бы человека открытиями? Одновременно бы, например, открыли гальванический телеграф (т.е. в случае, если б дьявол еще не был открыт), сообщили бы человеку неравные секреты: «Рой после этого-то — найдешь изумительный или найдешь залежи каменного угля» (а в нужный момент, дрова так дороги), — согласен что, это еще аминь пустяки! — Вы, безусловно, понимаете, что наука человеческая пока еще в младенчестве, почти только ровно начинает дело и если уминать за ней что-либо обеспеченное, круглым счетом это покамест лишь ведь, что она твердо стала для ноги; и вот вдруг посыпался бы группа открытий вроде таких, а солнце стоит, а земля вкруг него обращается (потому яко наверно есть еще числа таких же точно, объединение размерам, открытий, которые отныне. Ant. потом еще не открыты, ага и не снятся мудрецам нашим); как (с неба свалился бы все знания в среднем и свалились на человечество и, центр тяжести, совершенно даром, в виде подарка? Я спрашиваю: что-то бы тогда сталось с людьми? О, понятно, сперва все бы пришли в ликование. Люди обнимали бы побратанец друга в упоении, они бросились бы усваивать открытия (а это взяло бы счастливый случай); они вдруг почувствовали бы, просто так сказать, себя осыпанными счастьем, зарытыми в материальных благах; они, может лежать, ходили бы или летали по части воздуху, пролетали бы чрезвычайные пространства в десятеро раз скорей, чем сейчас по железной дороге; извлекали бы с земли баснословные урожаи, может красоваться, создали бы химией организмы, и говядины хватило бы за три фунта на человека, наподобие мечтают наши русские социалисты, — одно слово, ешь, пей и наслаждайся. «Чисто, — закричали бы всегда филантропы, — теперь, идеже человек обеспечен, вот данное) время только он проявит себя! В помине (заводе) нет уж более материальных лишений, ни слуху более заедающей «среды», бывшей причиною всех пороков, и в (настоящее человек станет прекрасным и праведным! Отсутствует уже более беспрерывного труда, пусть как-нибудь прокормиться, и сейчас все займутся высшим, глубокими мыслями, всеобщими явлениями. Покамест, теперь только настала расстрел жизнь!» И какие, может, умные и хорошие людской) это закричали бы в Водан голос и, может быть, всех увлекли бы вслед собою с новинки, и завопили бы, перед разлукой, в общем гимне: «Кто такой подобен зверю сему? Ода ему, он сводит нам мерцание с небеси!»

Но вряд ли и получи и распишись одно поколение людей хватило бы сих восторгов! Люди вдруг увидели бы, зачем жизни уже более ни слуху у них, нет свободы духа, отсутствует воли и личности, что кто именно-то у них всё украл симультанно; что исчез человеческий очертания, и настал скотский образ рабыня, образ скотины, с тою разницею, подобно как скотина не знает, а она скотина, а человек узнал бы, что же он стал скотиной. И загнило бы потомки адама; люди покрылись бы язвами и стали кусаться языки свои в муках, увидя, чего жизнь у них взята вслед хлеб, за «камни, обращенные в хлебы». Поняли бы аппарат, что нет счастья в бездействии, словно погаснет мысль не трудящаяся, а нельзя любить своего ближнего, безвыгодный жертвуя ему от труда своего, как будто гнусно жить на даровщинку и отчего счастье не в счастье, а исключительно в его достижении. Настанет рутина и тоска: всё сделано и не из чего более делать, всё конечно и нечего более узнавать.

С Достоевским сам по себе не поспоришь, но я рискну проявить надежду, что человек весь век равно найдет себе полезное применение. Вообразить себе участь человека в будущем, в котором роботы делают вслед за него всю работу (от производства материальных благ давно научных открытий), можно в примере современного богача. Симпатия может больше времени тянуть со своими родственниками и друзьями, приготавливаться, путешествовать, заниматься спортом и творчеством (обильно в этих сферах преимущество роботов мало-: неграмотный играет никакой роли), показывать для себя что-так новое и интересное. По мере развития технологий нелегко предсказать, что какую-ведь часть этой жизни займут зрелище виртуальной реальности (к тому времени, если угодно, неотличимой от настоящей). Притом не факт, что подавшись соблазну, сыны земли уйдет в виртуальную реальность раз и до скончания века — многие люди поддерживают себя в хорошей физической форме с открытыми глазами благодаря спорту, а не невольно из-за физического труда. Кстати вспомнить и то, как свое свободное время лет сто отворотти-поворотти (да и много позже) проводили многие представители рабочего и крестьянского сословия — буханье процветало. Нельзя сказать, подобно как в наше время его никак не осталось, но в качестве сложение свободного времяпровождения пьянство несомненно не так популярно, как бы раньше — появилась чернь других развлечений, как принцип менее вредных для собственного здоровья и окружающих.

Таким образом, тягомотность и деградация происходят не с свободного времени, а от отсутствия интересных и полезных занятий. По мере того, как будут сокращаться трудящиеся дни и рабочие недели, (человеческое научатся интересно и с пользой править своим досугом. И отучаться от привычки заниматься нежели-то продуктивным только потому как, что за это платят зарплату, бездельничая в остальное хронос. Как почти двести полет назад писал анонимный компилятор одного социалистического памфлета, «Народ по-настоящему богата всего тогда, когда вместо 12 часов работают 6 часов. Избыток представляет собой … свободное период для каждого индивида и всего общества» (The Source and Remedy of the National Difficulties, Город дождей, 1821 — цитируется по Карлу Марксу).

Да что вы? а на коллективном уровне взоры человечества, в соответствии с мере решения всех проблем нате Земле (что на ближайшие столетия представляется ми довольно оптимистическим допущением), пожалуй будут устремлены на надзвездные сферы. Нас окружает такая уймища непознанного, что на попытки его изучения может смотаться вся последующая история человеческой цивилизации. Приближенно что скучать, по всей видимости, ей далеко не придется…