Недавно я выложил в фейсбухе иллюстрацию Роберта Сеймура, датированную 1828 годом. Которую, как водится, никто не понял. А иллюстрация интересная. В начале научно-технической революции было принято мечтать о том, как техника изменит мир. Мечты эти сейчас выглядят милыми и по-детски наивными – воздушные шары, летающие кони и прочие повозки на паровой тяге. Но подобные иллюстрации позволяют понять экзистенциальные проблемы, которые волновали в то время и не решены до сих пор. На решение которых и будут в дальнейшем направлены достижения научно-технического прогресса.
Наивно думать, что развитие технологий – оно происходит само по себе и не привязано к неким извечным мечтам и желаниям человечества. На первый взгляд, прямой связи практически нет. Но стоит копнуть глубже, и можно увидеть, что прорывные технологические решения, имеющие наибольший коммерческий успех и радикально меняющие жизнь были неосознанно ожидаемы задолго до того. Достаточно внимательно почитать сказки, например, чтобы понять: испокон веков люди мечтали о решении проблем, и отразили это в фольклоре. Там технологии омоложения и регенерации (молодильные яблоки, мертвая и живая вода), автопилотируемые транспортные средства (печь Емели), кухонная автоматика (скатерть-самобранка), и даже виртуальный секс (Финист-ясный сокол вполне однозначен в этом качестве). И конечно же, подобные иллюстрации 200-летней давности тоже дают немало интересных идей. Эти картинки не стоит трактовать «в лоб», это только проекции неких смутных желаний. Но проекции любопытные.
Итак, машина, с головой из научных книг, увенчанная зданием Лондонского Университета, производит «зачистку» законодательной сферы, а более широко- устраняет проблемы общества в целом (первое изображение). Можно предположить, что идея порочности самой человеческой субъективности уже тогда была очевидна. Люди неспособны улучшить общество, они первым делом узурпируют все возможности в целях личной выгоды. И только умная машина, лишенная субъективности, но вооруженная знаниями, способна навести порядок в мире людей. Идея может показаться дикой, но лишь на первый взгляд.
Очевидно, сам факт управления человека человеком уже создает проблемы, вызванные человеческой субъективностью. Идеальный руководитель невозможен априори. Потому как восприятие начальника – оно на стороне подчиненного. Здесь возможен абсолютно любой набор мнений, которые основываются на субъективности этого подчиненного. «Наверное, начальник подумал обо мне, что я подумал о нем плохо, и поэтому посчитал меня плохим работником, поэтому я буду ненавидеть его в ответ» — и это еще не самая идиотская конструкция, которая может возникнуть в сознании. Мысли читать мы не умеем, зато думать о других, что они как будто бы думают о том, что думаем о них мы, что они думают о других – это запросто. А врожденная тревожность делает эти мысли явно негативного оттенка.
Совершенно замечательный эксперимент с абсолютно логичными выводами, проведенный в MIT – тому прекрасное подтверждение. Люди с бОльшей готовностью будут подчиняться машине, лишенной человеческой субъективности. А если люди чего-то жаждут – оно будет создано. И оно создается.
Сторонники искусственного интеллекта не верят в угрозы, которые создаст искусственный интеллект, и логика пока что на их стороне. От того, что artificial intelligence нам поможет лучше искать картинки в интернете или будет помогать учиться – хуже явно не станет. А кроме того, искусственный интеллект, лишенный человеческой мотивации, попросту не способен к такой задаче, как узурпация власти. Ему «нечем» хотеть. Однако, люди рано или поздно сами отдадут бразды правления обществом искусственному интеллекту. Так как он сможет управлять более эффективно и в силу своего превосходства и в силу большей готовности людей подчиняться не-людям, чем людям.
А вот тогда начнется самое интересное. Ведь люди с одной стороны разные, их уровень интеллекта существенно различается. При этом, все очень субъективны в оценке своих интеллектуальных способностей: как мы можем наблюдать уже сейчас, даже совершеннейший идиот с тремя классами образования убежден в том, что он знает «как надо» и «как правильно». И каждый человек за счет этого становится потенциальным разрушителем стабильности. Возникают вызовы, с которыми искусственный интеллект сможет справиться только репрессивными методами. В общем, мир встает перед дилеммой: дать возможность людьми и дальше управлять людьми и в итоге привести мир к хаосу или же дать искусственному интеллекту управлять людьми, и в итоге прийти непонятно к чему вообще. И время это не за горами, мир переживает кризис роста, а возможности AI растут очень быстро.
11 комментариев
Автор статьи не понимает до конца определения искусственный интеллект. Ему как и большенству кажется, что ИИ вещь прикладная. Как допустим ПО майкрософт, которая по экспоненте будет обрастать способностями. Для многих это видится как прикладные программы которые будут просчитывать и реагировать на сложные события, они и сейчас есть, только сфера операции их сильна ограничина. Вот тут и стоит отметить огромное различие суперПО от ИИ. В первое закладывается база данных, последняя же самостоятельно извлекает из окружающего мира объекты и сама же делает субъективную оценку, в отличии от первой. Субьективная оценка вот та принципиальная разница. Другими словами создать исусственую жизнь человечеству на этом этапе не подсилу. Скорей всего Сверх ПО с имитацией мыслительных процессов (о чем говорится в статье), а уже после того как они раскроют как материальные предметы переходят в не материальные (предметы-мысли) тогда и будет ИИ. Опять таки сенсорные восприятия, такие как боль у ИИ будут в другом. К примеру в падении напряжения электричества. Соответственно и восприятие и истиные ценности у него будут другие, встает еще один вопрос он будет один или их будет несколько. Как допустим психотипы в нашей голове. Это бесконечно сложный процесс и то что автор затронул не в потенциале АйТи технологий. Они уже и сейчас теоретически способны создать ИИ. А в природе самого человека, его работы интеллекта. Над работой интеллекта во всю трудятся нейробиологи, а над сознанием по сути должны трудится психологи но т.к. психология не признана наукой из-за того что она не нашла свою единицу измерения, в отличии от той же химии и математики, где есть своя таблица Меделеева и Пифагора, им еще предстоит этот путь проделать с нейробиологами. И только после всех этих изысканий АйТи индустрия выступает как сборочный цех. А не как многие полагают, что корни, начало ИИ лежат в АйТи. Нет, это не полное представление. Нету на даный момент полноценого искусственного интеллекта, только ПО с имитации мыслительных процессов. А если его и создали случайно или еще каким образом, то оно настолько быстро, что мы вряд-ли заметим его присутствия.
Какие-то заковыристые мечты у вас.
Я бы посоветовал для начала определиться с понятиями, что такое интеллект, что такое сознание, что такое мотивация и что такое чувства и что такое психика вообще.
Отсюда уже можно понять что есть что и как оно работает.
А потом будет уже ясно насколько это нужно и можно моделировать в компьютерной симуляции.
Вы говорите о неком искусственном сверхсознании, а я говорю что нет никаких предпосылок к его возникновению так как это никому не нужно.
Другими словами, но о том же. Вы советуете опредилится с понятиями что такое интеллект, сознание, психика, чувства и мотивация. И от сюда можно будет понять, что есть что и как это работает. Верно? Но вся беда в том что нельзя определитьтся да же с понятиями, не то что с принципами работы психики человека. От сюда вытекает, о каком ИИ может идти речь вашей статье? Так как ИИ подразумевает копию человека. Даже основопологающие понятия интеллекта не то что туманы их и не видно. Или может вы знаете как вашей голове мысли образуются? Тут нету ни у кого привилегий все на равных, берити и оценивайте.
У вас не статья а какой то киберпанк. Отдать управление бездушной ИИ или оставить человечеству. Что это вообще такое? Но нету ни какого ИИ, это ваши писательские фантазии. Позже отвечаете о неком сверхсознании, но по сути это ИИ, и не более. Говорите нету предпосылок для ИИ и тут же у вас целая статья о предпосылках будущего. И даже картинки с явным намеком на ИИ. Говорите, что это не кому не нужно. И тут же ссылка на MIT о желании людей не то что этим пользоватся, а подчинятся. У вас столько противоречий и анахромизмов, что в самую пору уже начать исследовать ,что есть сознание, что есть интеллект.
У нас какой-то странный разговор.
Попробую задать контекст.
Интеллект — способность перерабатывать информацию. Анализиовать, синтезировать, концептуализировать и иным способом интерпретировать.
Искусственный интеллект — оно и есть. И какого-то иного ИИ, выходящего за рамки обработки информации не предвидится — в нем нет нужды.
И в «чистоте» этого интеллекта от влияния эмоций и мотивации заключается одно из принципиальных преимуществ ИИ, которое люди будут использовать.
В первую очередь в тех вопросах, где влияние человеческой субъективности вносит сильные искажения. В управлении например.
И что вас смущает?
Вообщем давайте со стороны и как можно подальше. Наш взгляд на ИИ уперся на один существенный ньюанс — эмоции. В моем представлении ИИ, это аналог и спектр всех человеческих эмоции и мыслительных процессов. Почему так, да потому, что на данный момент не известно более видов обладающие интеллектом т.е. разумом. Соответственно интеллект может быть только один — человеческий. Если вы хотите сделать его искусственным, пожалуйста, но он должен соответствовать всем критерия оригинала. Если взять человека без эмоции, это неЧто затруднительно будет назвать интеллектуальным существом, да и вообще разумным. У животных то же есть уклад, иерархия и даже свой быт, но у них нету того многообразия эмоции, каким обладает человек. Таким образом эмоции состовляющая интеллекта и не разрывна с ней. Чем больше эмоциональной состовляющей тем больше оперативного простора для интеллекта. Можно сказать интеллект, это проявления эмоции в контролируемом виде. Теперь вернемся к вашим, да и не только, представлением об ИИ. Вы считаете, это будет (или есть) система с набором правил и функции, где 1+1=2. Не больше, не меньше. Да это верно, это будет работать, но к интеллекту оно ни имеет ни какого отношения, а так как ИИ аналогия настоящего интеллекта, то и к нему это понятие тоже не относится. О чем вы говорите это скорей Сверх программы с имитации мозговой деятельности, но ни как не интеллект.
Эмоции, конечно, явление многогранное. Но это явление в том числе мотивационное и физиологическое.
Чтобы машина испытывала эмоции, ее нужно не только запрограммировать определенными алгоритмами самостоятельного целеполагания, но и создавать соответствующую физиологию со всеми гормональными стимуляторами. Мало того, вместе с этим идет в комплекте огромный набор когнитивных искажений. Такая машина будет мыслить с ошибками, как человек. Кому и зачем это надо?
Я понял, вы говорите не об искусственном интеллекте, но об искусственной жизни оснащенной мощным искусственным интеллектом. Это уже другой вопрос. Но я очень сомневаюсь, что нечто подобное будет создано. Здесь возникают непреодолимые этические проблемы.
Вспоминается фильм Спилберга Искусственный интеллект, в котором осмысливается попытка осмыслить, что такое искусственный человек. Включающий и интеллект и эмоциональную сферу.
Относительно ИИ с точки зрения психологии, это просто мечта части сознания (его рациональной части) полностью обладать властью и убрать из системы принятия решений и влияния такие его части как душа (эмоционально-чувственное) и тело.
Это первое, а второе, что существуют такие формы мышления и обработки информации, которые принципиально не доступны логике и алгоритмам. Это образное, объёмное мышление. Поэтому, мечта довериться ИИ исчезнет вместе с человеком, но если и будет когда-то создано что-то подобное, оно однозначно исключит человека из системы управления — по простой причине человека проще уничтожить, чем управлять им. Пока у него есть эмоционально-чувственная сфера, тело управлять им с гарантированным результатом нельзя, а это противоречит задаче управления. Вспоминается момент из Матрицы, когда влюбленная женщина выхватила пистолет и приставила к голове рассуждающего, что у него всё схвачено.
ИИ — инструмент, который не заменит человека, ИИ не обладает своей мотивацией и волей. Но в большинстве рутинных интеллектуальных операций он человека отлично заменит. И с образным мышлением у ИИ все хорошо — он уже распознает образы лучше, чем человек. Довериться придется, так как задачи, возникающие в современном мире человеку просто не под силу. Человек не может анализировать сотни факторов одновременно. Или же для этого придется создавать огромные структуры, которые опять же будут работать хуже, чем ИИ. Задачи ИИ будут преимущественно в аналитике, решения же останутся за человеком. Но тут возникнет вопрос насколько «хвост» сможет «вертеть собакой», насколько при хорошей аналитике возможны сумбурные, непродуманные решения. Собственно, так ИИ и подчинит человека — он сузит пространство для маневра за счет отсечения абсурдных, неэффективных решений. Плохо это или хорошо?
Виктор, возможно мы имеем ввиду разные области человеческой деятельности. В тех областях и отраслях, где известны аргументы и нужен из грамотный системный анализ ИИ нужен, конечно же. Сможет ли она оградить человека от абсурда? Вряд ли можно ответить на этот вопрос корректно. Смотря с какой точки зрения смотреть. Йогу под деревом кажется, что лезть на Эверест в физическом теле это абсурд. Альпинисты же считают своё дело торжеством человеческого духа. Как говорил Далай Лама — люди странные существа, работают всю жизнь ради денег, портят своё здоровье, а потом тратят деньги, чтобы поправить здоровье. С этой точки зрения вся жизнь современного человека — это сплошной большой абсурд. Если такой Человек принимает решение — это плохо или хорошо?
А с другой стороны, если бы Ева не согрешила, человека не было..
Николай, возможно.
Под ИИ много что каждый понимает, в том числе наделяет это понятие какими-то своими проекциями. Потому что, пока до конца неясно что из этого может вырасти. Я понимаю это как программу, способную обучаться и находить оптимальные решения задач с нечеткой логикой. И в отличие от человека, делать это с минимумом искажений, которые у людей вызываются мотивацией, эмоциями, механизмами экономии усилий и прочими человеческими особенностями. Я отделяю интеллект от других структур сознания, поэтому не вижу в нем особенных угроз, зато вижу много плюсов.
А вот будут ли люди подчиняться ИИ? Это уже другой,намного более хитрый вопрос. Я думаю, что люди будут стараться сопротивляться этому. Но им придется подчиниться. Потому, что следование рекомендациям поначалу ведет к росту эффективности, а в дальнейшем, уйти с этой дорожки будет просто невозможно, каждый акт сопротивления будет вызывать проблемы. Человеческий мозг будет не в состоянии справиться с растущей сложностью мира. Поэтому, подчиниться придется.
Начаться все может достаточно невинно: а давайте-ка поручим спроектировать в строящемся районе энергосети. Достаточно мощный ИИ с таким скоро будет без труда справляться. А весь инженерный цикл могешь? А чего нет? А систему масштабировать на район могешь? А на город? А система мониторинга и управления всем этим? Все радуются — и проектировщики и инженеры и снабженцы и исполнители и управленцы. Дальше больше — а давайте ИИ научим социологии и аналитике, пусть нам про политику управление еще говорит на местах. И как что оптимизировать. В итоге, ИИ плотно прописывается во всех областях гос. управления. А потом начнет выдавать рекомендации, несовместимые с существующей системой. Упразднить этих, сократить тех, изменить принцип отбора людей, подстроиться под общественное мнение в конкретном вопросе и т.п. Вот тут веселье и начнется.
Руководители начнут пытаться противостоять системе, которая невероятно умнее их всех вместе взятых. «Уговорить» изменить политику не получится — выбрана самая оптимальная стратегия и идет тупое ей следование. На предложение «а вот этого надо оставить», продвинутая система аналитики выдаст ответ: в этом случае ожидается кризис банковской системы в течение 4 недель и беспорядки в 5% населенных пунктов. Не следование рекомендациям ИИ ведет к дисбалансу системы, к полной потере управляемости. А следование — к неприятным изменениям собственного статуса или даже уклада жизни. Выбрать же альтернативную стратегию невозможно — мозгов не хватит. Любая альтернатива ведет к негативным последствиям.
В общем, ИИ это очередной вызов нашей цивилизации, системам управления в первую очередь. Достаточно ли управленцы умны, чтобы осознать хотя бы немного возможности ИИ интеллекта и выстроить с ним эффективные взаимоотношения? Достаточно ли гибки, чтобы быстро принимать решения и смиряться с неизбежным? Достаточно ли мудры, чтобы все таки решиться использовать ИИ, понимая сколько возможных выгод он несет? А именно это будет определять, будет ли объект управления будь то страна или компания, находиться в русле развития, или же будет аутсайдером, медвежьим углом.
Согласен. При расширении области принятия решений ИИ на общественные процессы, будет как в комментариях Владимира Владимировича на предложения Кудрина, «это бухгалтерский подход, а мы имеем дело с людьми».