Ревко П. Искусственные интеллектуальные системы и повседневная жизнь человека

ОГЛАВЛЕНИЕ

6.  Перспективы использования искусственных интеллектуальных систем в повседневной жизни человека

Современные искусственные интеллектуальные системы нельзя рассматривать как нечто принадлежащее исключительно миру техники, они настолько глубоко проникли в жизнь людей, вплелись в саму ткань ее повседневности, что вычленить их из общего мировоззренческого и культурологического контекста не представляется возможным. Сегодня общество функционирует с помощью искусственных интеллектуальных систем, управляющих различными сферами жизнедеятельности. Человечеством формируется синергетическая интеллектуальная сеть в виде системы компьютеров, баз знаний и связей, образующих единое целое. Человек уже практически не властен над силами созданного им искусственного мира, некритически подчинен их потоковой нагрузке, уклониться от их влияния, на первый взгляд, он может только в приватном пространстве, в семье и в собственном доме. Однако и там невозможно уйти от вторжения технологий, задающих ценностные критерии общества комфорта. «Отравленные соблазнительными технологическими удовольствиями и обещаниями, мы поворачиваемся спиной к последствиям использования технологии и удивляемся при этом почему будущее стало столь непредсказуемым» . Существует гипотеза о двойственном характере человеческой психики: «Одна часть нашей личности (планировщик) осуществляет долгосрочное планирование и принимает решения в пользу будущих интересов за счет немедленного удовлетворения. Другая часть нашей личности требует немедленного удовлетворения своих желаний. Эти две части личности пребывают в постоянном противоборстве» . Интеллектуальная система индивида позволяет ему планировать свою деятельность на будущее, в некоторых случаях за счет самоограничения, взамен удовлетворения потребностей. Техника порождает различные дуальные эффекты: с одной стороны, она обеспечивает удовлетворение значительного числа потребностей человека, с другой, способна привести к разрушению самого человека. Поскольку технологическое развитие происходит в контексте культуры, сложно предугадать, в каких целях новые технологии будут использоваться и к каким социогуманитарным последствиям это приведет. Остро встает вопрос способности человека адаптироваться в новой среде, трансформированной технологиями. Важно, что адаптивность любой системы, в том числе человека как системы, в некотором смысле представляет собой меру жизнеспособности или выживаемости системы. Интеллектуальная система человека включает необходимым образом планировщика, позволяющего адаптироваться к динамике внешней среды. Характерной чертой современно этапа развития человечества является то, что, создав искусственные интеллектуальные системы, всемирные коммуникационные сети, человек превратил себя в часть нечто большего, чем он сам, построил сложный для себя, для своих интеллектуальных возможностей мир, и потому человек не способен ясно сознавать и эффективно предсказывать направление своего собственного развития. Управлять влиянием техники на человека достаточно проблематично, поскольку техносфера имеет тенденцию к «независимому» развитию, она выходит из-под человеческого контроля. Однако необходимо понимать, что сами по себе технологии не являются ни «плохими», ни «хорошими». Изначально по отношению к человеку они нейтральны, они приобретают определенные свойства, попадая в руки человека, который их использует в своих целях. От моральной ответственности человеку невозможно уходить, её нельзя «передавать» машине. Техника не снимает ответственности с человека, переложение на нее ответственности за будущее человечества неправомерно. Моральные нормы применимы только к поведению людей, поскольку только люди вступают между собой в определенные общественные, включая моральные, отношения. Вне сферы общественных отношений (за ее пределами находятся технические связи и функционирование искусственных систем) они не действуют. Для компьютера безразлично какие задачи – гуманные или антигуманные – он решает. Это оценивает человек, его общественная практика, его цели и стремления, его нравственные нормы и идеалы. Т.Адорно в статье «О технике и гуманизме» на вопрос: «приносит современная техника в конечном счете пользу или вред человечеству?», отвечает, что «это зависит не от техников и даже не от самой техники, а от того, как она используется обществом. Это использование не является делом доброй или злой воли, а зависит от объективных структур общества в целом. В обществе, устроенном соответственно человеческому достоинству, техника не только была бы освобождающим фактором, но и обрела бы сама себя. Если сегодня техники иногда испытывают страх перед тем, что может произойти с их изобретениями, то ведь лучшей реакцией на этот страх была бы попытка как-то содействовать установлению общества, отвечающего человеческому достоинству» .
Б.Уитби уверен, что подобно любой другой технологии, искусственный интеллект можно использовать с позитивными социальными последствиями, а можно и создать условия для социальной катастрофы.
Х. Ленке говорит, что информационные системы в будущем будут принимать решения во все большем объеме по жизненно важным социальным и даже индивидуальным проблемам, и тем более по проблемам, которые будут возникать в случае чрезвычайных ситуаций, когда решения принимаются без «ответственного лица», т.е. без человека или группы людей. Вопрос: кто в таком случае будет нести ответственность? Могут ли информационные системы быть морально ответственными? Компьютеры, считает Х.Ленке, не являются моральными, социальными сущностями, они не осуществляют сознательных процессов и потому не могут брать на себя моральную ответственность. Желание наделить моральной ответственностью за принятые решения компьютер – это стремлением уйти от ответственности. «Стремление преднамеренно и слишком поспешно превращать компьютер в моральное существо, - пишет Х. Ленке, - означало бы открывать слишком легкие пути для выхода из дилеммы ответственности, выбирать стратегию уклонения от решения проблемы, которая может привести к уходу от собственной моральной ответственности. И тогда компьютер оказался бы в роли козла отпущения. Если нельзя привлекать к ответственности личность, то крайне легко сваливать ответственность на компьютер или вообще от нее отказаться» .
В силу особенностей машинной деятельности, заключающейся в невозможности личной проверки принятых машиной решений и, следовательно, полного контроля над её деятельностью, человек в той или иной степени всегда вынужден как бы перекладывать часть ответственности на машину. С возрастанием трудности решаемых искусственными интеллектуальными системами задач и увеличением структурной и функциональной сложности машинных комплексов доля этой ответственности увеличивается. Поэтому проблема контроля и оценки работы искусственной интеллектуальной системы связана в первую очередь с невозможностью проследить за выполнением всех операций этой системы. Человек не в состоянии проверить многие даже относительно короткие последовательности операций, выполняемые обычными домашними компьютерами. Искусственные интеллектуальные системы всё чаще предстают перед людьми в виде «чёрных ящиков», о многих свойствах и действиях которых даже их создатели могут не знать. Ведущие ученые корпорации IBM считают, что сложность существующих компьютерных систем может в ближайшем будущем сделать их совершенно неуправляемыми, и чем более миниатюрными и вездесущими будут становиться эти системы, тем сложнее будет с ними справиться. Вице-президент отдела компьютерных исследований компании Пол Хорн заявил, что если экспансия компьютеров во все сферы деятельности человека будет продолжаться, в мире скоро не хватит людей, чтобы ими управлять. По его мнению, неудобства, вызванные этой ситуацией, могут свести на нет ту пользу, которую компьютеры приносят человечеству, и ради которой они, собственно, и были созданы .
Присущая искусственным интеллектуальным системам способность работать с неполной информацией делает их инструментом целеполагания. Возникает закономерный вопрос: значит ли это, что системы искусственного интеллекта могут иметь собственные цели? Некоторые исследователи отвечают на такой вопрос положительно. «Моделируя среду, - пишут, например, Л. Фогель, А. Оуэнc, М. Уолш, - машина проявляет свою «творческую способность» и «воображение». Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели» . К аналогичным выводам приходит Н.А. Амосов, заявляющий, что нельзя выполнить разум без каких-либо чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства: добро и зло, приятное и неприятное. Их уже достаточно, чтобы при наличии самоорганизации, т.е. способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности .
Обсуждается проблема разработки самоуправляемых компьютерных систем, обладающих эмоциональной реакцией. Эволюция сформировала у человека богатый набор процессов, помогающих ему ориентироваться в окружающем мире. Наделенная эмоциональными функциями искусственная интеллектуальная система могла бы на уровне «ощущений» оценивать свое собственное состояние и состояние окружающей среды, соизмерять свои действия со своими ожиданиями, и иметь возможность анализировать собственные действия. Она могла бы судить о своей надежности и о надежности других систем, с которыми приходится взаимодействовать, а также могла бы корректировать собственное поведение с целью повышения эффективности. Система эмоциональных реакций - это механизм, позволяющий оценивать события в категориях «положительное - отрицательное», «безопасное - опасное», «хорошее - плохое», «благоприятное - вредное» . В современной науке разрабатываются вопросы математизации некоторых сторон этической науки, в частности экспликация средствами математики и кибернетики ее основных понятий и возможность моделирования отдельных аспектов морального сознания. Формируется этометрия - измерительная теория этики, которая занимается математическим моделированием моральных структур, включая такие, как, например, совесть. «Моделирование совести основывается на том, что она обладает функцией регулятора, который настраивает уровень поведения индивидуума (реальная величина) на уровень поведения, требуемого обществом (заданная величина). Говоря языком кибернетики, совесть сопоставляет значения заданной и реальной величин. До тех пор пока существует определенное равновесие этих величин, совесть выполняет «пассивную» функцию. В обиходе это состояние называют «спокойной совестью». Однако как только это равновесие нарушается, то есть изменяется значение разности между заданной и реальной величинами, мобилизуется «активная» функция совести: появляются «угрызения совести», которые затем (по достижении равновесия) исчезают» . Небезынтересно в данном контексте отметить также опыты по моделированию с помощью систем искусственного интеллекта такого социального феномена, как семья. Вступление в брак с учетом рекомендаций машины, просуммировавшей необходимую информацию о потенциальных супругах, входит в практику бракосочетаний.
Несомненно, что искусственные интеллектуальные системы все активнее будут влиять на человека во всех сферах его жизнедеятельности. С большой долей вероятности можно утверждать, что робототехника и производство роботов в течение ближайших десятилетий сделает существенный шаг вперед. (Интересно, что первых протороботов пытались конструировать еще древние греки, достаточно вспомнить автоматы Герона Александрийского.) Уже сегодня практически обыденным становится использование роботов в технологических процессах, роботизация охватывает все большее число производственных отраслей. В эссе «Нация роботов» Маршалл Брейн прогнозирует, что более половины американской рабочей силы окажется без работы, и безработица будет постоянно расти в связи с тем, что недорогие гуманоидные роботы, заняв не слишком престижные вакансии, будут стремительно совершенствоваться и теснить людей на их рабочих местах в ключевых сферах деятельности . Область применения роботов расширяется, захватывая кроме производства и другие сферы человеческой деятельности. Конечно, не следует ожидать от каждого робота элементов интеллекта и широких возможностей. Во многих случаях это будут узкоспециализированные и сравнительно простые машины, имеющие жесткое программное обеспечение, регламентирующее их деятельность в узких пределах. Б.Уитби считает, «что современная технология искусственного интеллекта и технология ближайшего будущего скорее позволит выполнять высокоспециализированные виды работ, чем работы общего характера» .
Но, несомненно, достижения в области искусственного интеллекта будут активно применяться в робототехнике. Более того, в конечном итоге искусственный интеллект прекратит существовать как обособленное направление и растворится в общей матрице технических достижений, так как любая новая технология будет в той или иной мере интеллектуальной. Соответствующее программное обеспечение позволит роботам выполнять сложные функции в многофакторном пространстве ограничений. Появление мощных микропроцессоров, а также создание качественных исполнительных механизмов позволит компаниям, производящим роботов, совершить прорыв в быт человека. Сегодня начинается внедрение роботов в повседневный быт человека, в какой-то момент они станут его неотъемлемой составляющей. Существует немало фирм, предлагающих «домашних роботов», в которых заложены возможности дальнейшего развития. Роботы, «живущие» рядом с человеком, способны выполнять охранные, контролирующие, ремонтные и многие другие функции. В жизнедеятельности человека появляются искусственные интеллектуальные помощники, подсказчики, исполнители рутинной работы, которые берут на себя многие обязанности, неведомые ранее функции в различных сферах человеческой деятельности. Более того, развитие искусственной интеллектуальной среды достигло той стадии, когда многие повседневные явления по своей сути представляют процессы создания и обучения неких человеко-машинных систем. В этой связи «не случайно многие рассматривают компьютер как «фактор отчуждения». Все человеческое в человеке как бы сводится к машинообразным схемам. Взаимодействие «человек-машина» становится образцом для коммуникаций между людьми. В итоге сама человеческая жизнь приобретает компьютерное измерение» .
В плане рассмотрения перспектив будущего человечества определенного внимания заслуживает такое движение культуры ХХ века, как киберпанк. Из явления утопии он превратился в антиутопию, поставив сложнейшие философские и социокультурные проблемы сегодняшней реальности. Киберпанк порождён стремительным развитием компьютерной технологии (кстати, непредвиденной в таком масштабе ни одним писателем-фантастом) и, соответственно, киберкультуры, которая проникает во все сферы жизнедеятельности человека: она распространяется и на бытовую сферу, на сферу человеческих отношений. В литературе киберпанка, как правило, описывается система, представленная тоталитарным режимом, властью международных корпораций, усиленной новейшими технологиями, в основном, информационными. Система полностью подавляет обывателя, не только окружая его снаружи, но и своими щупальцами проникая в него изнутри: вгрызаясь в мозг – за счёт вживления различных деталей, врываясь в тело - путём имплантации искусственных органов, клонирования или замены частей тела на всевозможные протезы т.д. Это – «кибер» полюс. Однако, на краю любой общественной системы существуют маргинальные слои: преступники, полусумасшедшие мечтатели, которые готовы вступить в борьбу с системой. Это – «панк» полюс. Выходом из такого мира является киберпространство, мир, меняющийся от желания самого человека, его сознания – виртуальная реальность, как в некотором роде синтез техники и человеческого воображения.
Мир, рисуемый киберпанками, соответствует проблеме, указанной А. Печчеи. Проблема человека в том, что он оказался неспособным полностью приспособиться к тем изменениям, которые сам же внес в этот мир. Люди не успевают адаптироваться ни психологически, ни функционально к изменяющемуся миру и новому положению в нем человека. «Суть проблемы как раз и заключается в несоответствии между созданной человеком действительностью и тем, как он ее воспринимает и как учитывает в своем поведении» . Выход из сложившейся ситуации - в культурной трансформации, как важнейшей цели и основы человеческого развития, в изменении человеческих качеств в процессе революции в самом человеке. «Если мы хотим обуздать техническую революцию и направить человечество к достойному его будущему, - считает А. Печчеи, - то нам необходимо прежде всего подумать об изменении самого человека, о революции в самом человеке» . «Сила воздействия информационной техники на культуру напрямую зависит от того, в какой мере используется эта техника. Последнее определяется способностями, знанием и умением субъекта, воспринимающего и использующего в своей практической деятельности  информационную технику. Следовательно, для того, чтобы с пользой для себя пользоваться плодами информационной технологии, чтобы изменить при помощи этой технологии условия своего бытия, изменить мир, человек, прежде всего, должен изменить самого себя, используя тот огромный культурный потенциал, который накопило человечество» .
Традиционная точка зрения исходит из того, «что компьютеры представляют собой рабочее средство, созданное человеком, дабы преодолеть границы своего интеллекта, т.е. чтобы расширить человеческие возможности и лучше овладеть и управлять объективными процессами» . Как пишут В.С. Поликарпов, В.А. Поликарпова, «эта позиция подкрепляется следующей аргументацией, исходящей из значимости роли человека в общественной практике, где первостепенную важность имеют процессы принятия решений. Некоторые звенья этих процессов человек может реализовывать благодаря применению интеллектуальных систем, когда подлежащие решению ситуации поддаются программной реализации. К ним относятся сравнительно простые ситуации, хорошо описывающиеся математическими моделями, что позволяет делегировать принятие решений компьютерам. За человеком в этом случае остаются лишь творческие функции, однако в сложных ситуациях такое программирование невозможно . Техника в основе своей - есть результат рационального конструирования и рациональной деятельности, даже если побуждения к этому приходят из иррациональных источников, потому техника принципиально должна поддаваться пониманию и управлению, коррекция и регулировка возмущающего воздействия и ее влияние на социально-культурную сферу сегодня остаются еще возможными. По крайней мере, в некотором, ограниченном смысле. Вероятно, при развитии техники существующим путем реализовывать эту коррекцию и регулировку в будущем будет все сложнее, поскольку технологический прогресс приближается к критической точке, когда техника сможет получить окончательную независимость от своего создателя и начнет жить по своим собственным законам, которые человек уже не в силах будет изменить. Уже сегодня системы искусственного интеллекта обладают достаточной степенью автономности и неконтролируемости со стороны человека, чтобы породить проблемы, связанные с доверием к результатам информационно-перерабатывающей деятельности. Для человека важно продумать положения, которые позволят ему сохранить «право голоса» в мире техники. Человечество, если оно не хочет уступить свое место системам искусственного интеллекта, уже сейчас должно задумываться над вопросами своего присутствия в любой развивающейся интеллектуальной системе. При этом необходимо быть готовым к тому, что на определённом этапе развития, присутствие человека на вершине каждой саморазвивающейся системы, вероятно, станет своеобразным тормозом научно-технического прогресса. Техника нуждается в человеке лишь как в производителе и потребителе, остальные отношения и соответствующие особенности становятся лишними, «нерентабельными». Поскольку производственные операции в основном выполняются машинами, человек может свестись к функции обслуживающего персонала машин. Поэтому жизненно важно человеку находить пути и механизмы регулирования явлений научно-технического развития. Нельзя оставлять автономным системам искусственного интеллекта право принятия решения во всех сферах человеческой жизнедеятельности.
В качестве компромиссного решения сосуществования искусственных интеллектуальных систем и человека в определенном смысле представляется применение экспертных систем. Экспертная система - это прикладная система искусственного интеллекта, включающая знания об определенной слабо структурированной и трудно формализуемой узкой предметной области и способная предлагать и объяснять пользователю определенные решения. Экспертная система состоит из базы знаний, представляющих собой формализованные эмпирические знания высококвалифицированных специалистов (экспертов) в какой-либо узкой предметной области, механизма логического вывода и подсистемы объяснений. Содержимое памяти компьютера не равносильно человеческому знанию, но может служить удобной для коммуникации моделью этого знания. Принцип моделирования профессиональных знаний лежит в основе экспертных систем . В некотором смысле экспертные системы являются своеобразной альтернативой искусственному интеллекту, хотя в их создании использованы достижения из области искусственного интеллекта. Если искусственный интеллект ставит задачу создания интеллектуальных моделей действительности, обеспечивающих целесообразное поведение, то при разработке экспертных систем основным становится моделирование профессиональных знаний об определенном аспекте действительности, присущих человеку - эксперту или нескольким экспертам. Разработки в области искусственного интеллекта направлены на замену интеллектуальных функций человека функциями компьютеров, в то время как экспертные системы не только не предполагают вытеснения человека из каких-либо интеллектуальных сфер деятельности, а наоборот, ориентируются на то, что профессиональные знания специалиста, как правило, лучше описывают плохо структурированную действительность, чем любая искусственная модель, и роль экспертных систем состоит в том, чтобы сделать знания одного или нескольких экспертов достоянием любого специалиста в данной области независимо от пространственно-временных ограничений. При этом от пользователя экспертной системы в качестве условия эффективного использования представляемых консультаций требуется профессиональное творческое владение предметом. В идеале пользователь в процессе взаимодействия с экспертной системой сам становится экспертом, знания которого учитываются в этой системе. Если искусственный интеллект традиционно отводит человеку пассивную роль лица, избегающего тяжести принятия решений, то экспертные системы ориентируются на творчество пользователя, способного самостоятельно принимать ответственные решения с учетом профессиональных знаний, которые представляются ему через экспертные системы. Б.Уитби пишет, что экспертная система «предназначена для помощи человеку, а не для вытеснения его. Она дает рекомендации, а не директивы…Использование подобных систем позволяет человеку быстро принимать решение, опираясь на данные, хранящиеся в различных базах данных. Эффективность работы значительно возрастает» .
Итак, отношения между человеком и машиной в условиях развития систем искусственного интеллекта и внедрением их в человеческую повседневность принимают все более сложный и трудно предсказуемый характер. Рождается новая модель жизнедеятельности человека. Показательно в этой связи распространение такого формирующегося направления, как компьютерная этика, которая рассматривает соотношение фактов, концептуализаций, типов политики и ценностей, связанных с постоянно изменяющейся компьютерной техникой. Дж. Мур предлагает ограничить круг задач, решаемых компьютером таким образом, чтобы компьютер не мог решать, каковы должны быть базисные цели и ценности (и приоритеты среди них) человека, считая, в то же время этически неправомерным запрещение компьютеров там, где они могут способствовать сохранению человеческой жизни, например, в областях медицины . Принципы ограничений применения искусственных интеллектуальных систем, например, могут выглядеть следующим образом: во первых, искусственные интеллектуальные системы не должны принимать решения, которые хотят принимать люди; во-вторых, искусственным интеллектуальным системам нельзя доверять принятие решений, которые человек может принимать более компетентно; в-третьих, искусственные интеллектуальные системы не должны принимать решений, которые человек не может отменить. Н. Винер утверждал: «Если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать их под контролем. Иначе нельзя» . В конечном итоге перспективы развития искусственных интеллектуальных систем и сферы их применения человек обязан определять сам.
Таким образом, последствия распространения искусственных интеллектуальных систем зависят, в первую очередь, от целей самого человека, их необходимо прогнозировать и контролировать, человек неправомерен перекладывать ответственность за свое будущее на системы искусственного интеллекта.

Ваш комментарий о книге
Обратно в раздел философия