Меню

SLIDER.WEB studio

СоцСсылки

БЛОГ


Искуственный интеллект - ... чего ждать?

В последнее время многие банки, компании и правительства государств включились в гонку по созданию искуственного интеллекта (ИИ) и передачу ему функций управления и принятия решений. В этой заметке я поделюсь своими размыщлениями и выводами, почему это не совсем разумно и не реально, с концептуальной точки зрения. В чем подвох и что ожидать.

Для начала нужно определить, что есть естественный интеллект (ЕИ), а что есть искуственный интеллект (ИИ), и в чем их различие.

Естественный интеллект, строго говоря, определяют как комплекс поведенческих действий субъекта, например, человека, которые осуществляются при помощи двух технологий, а именно: РАЗУМА и ПСИХИКИ. Это занния и навыки, поведенческие и психические модели, которые постоянно развиваются вот уже на протяжении тысячелетий, с помощью сложнейших механизмов наследственности, вербального и не вербального общения между индивидами (обучение и передача опыта, в том числе от предка к потомку). Это один из древнейших процессов, который не останавливается ни на секунду на протяжении всего существования живых организмов на планете Земля.

Искуственный интеллект - свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Существующие на сегодня интеллектуальные системы имеют очень узкие области применения. Например, программы, способные обыграть человека в шахматы, не могут отвечать на вопросы. Алгоритмы генерации речи не могут анализировать биржевые тренды и так далее. Другими словами искусственный интеллект это, по сути своей, алгоритмы, разработанные естественным интеллектом, для ускоренного решения узко специализированных задачь. Распознавать закономерности, выявлять отклонения, генерировать подобия, на основе анализа типизированных данных (предварительное обучение).

Возможности

Я вполне допускаю, что дальнейшее развитие человеческих технологий вполне может привести к появлению очень сложных и комплексных алгоритмов, способных оценивать огромное количество статических параметров, и на основании этой оценки, в соответствии с заранее заданным алгоритмом, определять вероятностные показатели и возможные ситуативные характеристики очень сложных вероятностных моделей и выбирать математически наиболее подходящий вариант в кратчайшие сроки. Что-то подобное есть и у человека. Мы называем это интуицией. Когда в определенных ситуациях наше сознание в фоновом режиме проводит сложный многофакторный анализ и на основе нашего опыта, знаний и других, еще мало изученных "технологий" вырабатывает поределнный наиболее вероятный прогноз, который и рождается в нашем сознании, как ответ на "вопрос".

Появление контролируемого технологического решения, позволяющего выполнять данную работу очень облегчить и ускорит многие аспекты деятельности человека, от бытовых вопросов до фундаментальной науки. Однако это потребует и дополнительных усилий со стороны естественного инетллекта (людей), для создания более мовершенных и качественных систем не только самого ИИ, но и комплексных систем, использующих несколько моделей ИИ в составе единой координируемой системы.

Однако я очень сомневаюсь в том, что в ближайшее время (сотни, а возможно и тысячи лет), человеческие технологии, в том виде, в котором они существуют сейчас, разовьются до уровня "осознанности" и самостоятельности хотя бы бактерии. Появление подобных технологий позволит говорить о том, что данный алгоритм достаточно самостоятелен, для принятия, хоть и примитивных, но эффективных ршеений. И это основное ограничение. Если алгоритм не жизнеспособен, не способен принимать решения, обеспечивающие его собственное устойчивое развитие, то он не способен принимать какие либо решения в принципе. Таким образом мы приходим к тому, что для принятия решений искуственный интеллект должен обрести РАЗУМ. Это приблизит его к ЕИ достаточно, чтобы поручать данному ИИ принятие сложных решений.

Разумность и реальность

РАЗУМ – философская категория, выражающая высший тип мыслительной деятельности, противопоставляемый рассудку. Различение разума и рассудка как двух «способностей души» намечается уже в античной философии: если рассудок как низшая форма мышления познает относительное, земное и конечное, то разум направляет на постижение абсолютного, божественного и бесконечного. Выделение разума как более высокой по сравнению с рассудком ступени познания четко осуществлялось в философии Возрождения у Николая Кузанского и Дж.Бруно, будучи связываемо ими со способностью разума постигать единство противоположностей, которые разводит рассудок.

По смыслу это соответствует латинскому слову «intellectus» — понимание — что с медицинской точки зрения характерезует качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению на основе опыта, понимания и применения абстрактных концепций, использования своих знаний при взаимодействии с окружающей средой.

Как мы уже выяснили ранее, для того, чтобы встать, пусть и не в один ряд, но рядом с ЕИ и получить возможность принимать решения, ИИ необходимо достичь хотя бы уровня бактерии.

Но давайте немного отвлечемся. Даже среди себе подобных - человеков разумных, мы не каждому доверим принимать какие-то сложные и ответсвенные решения. Помимо того, что это существо одного биологического вида и с адекватными когнитивными способностями, мы обращаем внимания на его знания, опыт, иные качества, которые характеризуют его как человека и профессионала в той области, в которой мы готовы доверить ему функцию принятия решений.

И вот здесь мы приходим к вопросу разумности. На сколько разумно доверить функцию принятия решения алгоритму, который достиг уровня развития бактерии? Не простейшего, не животного, а бактерии! Но на сегодняшний день у нас нет и таких технологий ИИ.

Реальность

После того, как мы разобрались с тем, что такое естественный интелеект и искуственный интеллект, на каком уровне развития они находятсясегодня - стремление заменить естественный интеллект искуственным в широком спектре отраслей хозяйствования и услуг выглядит более чем странно. Многие, то ли по не знанию, то ли осознанно, переоценивают роль ИИ в жизни человека, делегируя технологиям на его базе все больше и больше социально значимых задач, исключая из процесса принятия решений человека. На самом же деле, как мне кажется, это больше связано с тем, что таким образом достигается одна единственная цель - сброс ответсвенности на ИИ, что априори не состоятельно. Но, видимо, это являетс приемлемым для тех, кто принимает такие решения.

В любом случае - принятие решений, и ответсвенность за это, пусть и с помощью технологий машинного обучения и ИИ, лежит на плечах людей, наделенных такими полномочиями. Это следует из того, что сегодня ИИ просто не спообен принимать решения. То что сегодня называвется "ИИ принял решение" говорит лишь о том, что мы согласны и допускаем в качестве решения результат вычислений какого-то конкретного алгоритма. И ответсвенность за такое решение лежит исклчительно на том, кто согласился с результатом и допустил этот результат в качестве решения.
Это реально и допустимо в прикладных областях науки и техники. Однако не стоит переоценивать результаты интеллектуального труда представителей и носителей естественного интеллекта. Мы ошибаемся, и вполне вероятно можем допустить ошибки и в алгоритмах, реализующих ИИ. Что в свою очередь может привести к ошибкам в его работе, относительно итогов его работы.

Если допустить, что рано или поздно мы придем к тому, что в нашем распоряжении окажется полноценный ИИ, который будет способен самостоятельно развиваться, принимать решения, и так или иначе будет способен помогать человечеству из самых гуманистических побуждений, то возникает два вопроса:

  1. Готовы ли мы, как человечество, делегировать ему функцию принятия решений? Ведь тем самым мы ставим себя в зависимость от ИИ, теряя свободу.
  2. Готовы ли мы к ошибкам ИИ, и их последствиям для нас, как человечества?

Природа тоже иногда ошибается. И что она делает с результатами ошибки - тоже всем известно.

Если продолжить размышления на тему ИИ, который будет способен принимать решения на равне с человеком, который посредством обучения обрел разум, осознал себя, обрел способность абстагировать и конкретизировать, противопоставлять и обобщать, то мы уже приходим к тому, что рядом с нами появляется отдельная форма жизни, с которой нам придется конкурировать, хотим мы того или нет.

PS: Может быть мы потому и не видели ни разу "своих богов" о которых оставлено так много информации как в культурных, так и в религиозных источниках, так как мы, будучи созданными по их образу и подобию, составили им конкуренцию? Может быть они нас покинули? А может быть мы их уничтожили?

Тогда нам стоит задуматься над тем, чего ожидать от тех, кого мы создадим по своему образу и подобию...

Posted in #факультатив, Управление on дек 03, 2020.