Искусственный интеллект vs человек

Искусственный интеллект – не сложнее калькулятора: порабощение машинами нам не грозит?

Фото из личного архива Аскера

В последнее время тема искусственного интеллекта (ИИ) вызывает много дискуссий и опасений. Некоторые люди считают, что развитие ИИ может привести к порабощению человечества машинами. Однако эти опасения сильно преувеличены.

Прежде всего, стоит отметить, что ИИ на самом деле не так сложен, как кажется (то же можно сказать и о калькуляторе, в зависимости о того, в чьих руках он находится). Он представляет собой систему алгоритмов и программ, которые позволяют компьютерам выполнять определённые задачи. Эти задачи могут быть разнообразными: от распознавания изображений до создания музыки. Но в основе всех этих задач лежат простые математические операции.

Например, когда мы говорим о распознавании изображений, ИИ использует алгоритмы для анализа пикселей на изображении и определения, что на нём изображено. Это похоже на то, как мы сами распознаём изображения, только у нас это происходит в голове, а у ИИ – в компьютере.

Когда мы говорим о создании музыки, ИИ также использует алгоритмы для генерации звуков и мелодий. Опять же, это похоже на то, как композитор создаёт музыку, только у композитора это происходит с помощью музыкальных инструментов и нот, а у ИИ – с помощью математических формул и алгоритмов.

Конечно, ИИ может быть очень мощным инструментом, который может помочь нам решать сложные задачи и автоматизировать многие процессы. Но он не способен мыслить самостоятельно или принимать решения, которые выходят за рамки заложенных в него алгоритмов. Поэтому порабощение человечества машинами нам не грозит.

Развитие ИИ происходит под контролем человека. Мы разрабатываем алгоритмы и программы, которые определяют, какие задачи может выполнять ИИ. Мы также контролируем доступ к данным и информации, которые используются для обучения ИИ. Поэтому мы можем быть уверены, что ИИ не выйдет из-под нашего контроля и не станет угрозой для человечества. Для человечества как вида. Но стоит ли в целом беспокоиться за изменения жизнедеятельности человека, которые происходят благодаря или вопреки использованию ИИ? Об этом и многом другом рассказал CEO Центра управления ИИ «AI Edge» Аскер Аскеров.

Какие основные функции искусственного интеллекта вы считаете наиболее важными и полезными для общества?

Прежде чем ответить на этот вопрос я сделаю предостережение: есть гигантский соблазн отдать вообще все функции и задачи, которые мы не хотим делать, искусственному интеллекту, в том числе и задачи творческие, связанные с созданием нового. Под творчеством, я понимаю не только искусство – это и принятие решений, разработка стратегии. Это все творческие задачи от слова «творить». Наверное, отдавать подобные вещи на откуп технологии ИИ большая глупость не потому, что ИИ нас поработит, а потому что, например, мы же уже отдали память смартфонам. Да, мы её существенно расширили, но при этом отказались от собственной, никак её не развиваем и не тренируем, и это плохо.

Теперь есть соблазн отдать функцию мышления искусственному интеллекту. Не сложно представить, во что тогда превратится наш мир. Для того, чтобы этого избежать все-таки нужно ограничить круг задач, которые перекладываются на ИИ. Для каждого человека это свой набор задач, которые он готов поручить искусственному интеллекту без ущерба собственному интеллекту.

Я бы отдал ИИ всю рутинную работу. Это касается и бизнеса и вообще работы в человеческой деятельности. Небольшое уточнение: если мы говорим о рутине на этапе обучения какому-то навыку, то это, естественно, нельзя отдавать искусственному интеллекту – для того, чтобы наработать навык этой рутиной должен заниматься человек. Ту рутину, на которую человеку приходится тратить время и ресурсы внимания и мышления, имеет смысл отдавать искусственному интеллекту. Допустим, если нужно подготовить какой-то договор – человек может поручить это ИИ, предоставив ему нужные данные.

ИИ может взять на себя подготовку сырого материала для какого-то творческого произведения. Допустим, человек сам не вбивает пальцами в компьютер такие вещи, как персонаж, сюжет, настройка, тон. Он может продиктовать это ИИ – нейросеть на основе этих данных будет готовить материал.

Я использую искусственный интеллект, когда мне нужно подключить базу знаний определённой профессии. Я прошу нейронку выступать в роли специалиста, который обладает нужными знаниями, и помочь анализировать какую-то ситуацию, ставить под сомнение для того, чтобы набрать некий базис для принятия решения.

Все, что связано с рутиной, прогностикой, анализом, обработкой данных и подготовкой массива для принятия решения, даже принятие рутинных решений, можно отдать ИИ.

Что такое рутинные решения?

Допустим, в какой-то системе есть определённое количество вариантов развития событий и действий, которые нужно предпринять, например, в системах, связанных с техникой безопасности, работой каких-то агрегатов, – даже эти решения можно отдавать искусственному интеллекту. Решения долгосрочные, стратегические, судьбоносные должен принимать человек. Все подготовить для их принятия или непринятия, стратегии сможет ИИ, но заниматься самой стратегией, разработкой логики, действий и так далее должен сам человек.

Как вы думаете, какие изменения в нашей жизни могут произойти благодаря развитию искусственного интеллекта?

Нужно сделать небольшую преамбулу. Наша жизнь усложняется. Это связано с повышением численности населения. Оно и дальше будет расти. Это связано с усложнением процессов: чем больше людей, тем большее количество процессов их жизнедеятельности. Когда количество переходит в качественно новые состояния для управления новыми состояниями систем требуются совсем иные подходы. В частности, нужна система управления, которая могла бы управлять, простите за тавтологию, одновременно всеми процессами, либо несколькими процессами системы, либо всей системой, одновременно. Усложнение приводит к тому, что человеческий мозг устанет справляться с ними и для управления большим количеством однотипных или разноплановых задач внутри системы потребуется более сложная и более быстрая по количеству обрабатываемой информации и выполняемых вычислений система под названием искусственный интеллект. Она возьмет на себя очень много рутинных работ.

Задача человека состоит в том, чтобы усложняться так, чтобы мыслить уже категорией систем, а не конкретных процессов внутри системы. От этого зависит, кто выживет, кто пойдёт дальше. Ну, имеется в виду с точки зрения, как и профессии, так и целых групп людей. Сидеть и рыдать по поводу того, что вот ИИ лишает нас работы, устраивать пикеты по этому поводу – значить идти по пути проигрыша.

Нечто подобное мы наблюдали в начале 20 века, когда появился конвейер, когда появились станки. Тогда тоже ремесленники очень сильно возмущались. Сегодня происходит то же самое – жизнь очень сильно меняется. Много профессий исчезнет. Вернее, много позиций рабочих. Человек усложнится, будет решать более комплексные задачи и помогать ему в этом будут различные виды искусственных интеллектов.

В чём заключается разница между искусственным интеллектом и человеческим мышлением?

Помимо очевидной разницы, есть очень конкретная разница между искусственным и естественным интеллектом. Заключается она в динамичности естественного интеллекта на фоне искусственного. Наш мозг состоит, как известно, из нейронов, которые взаимосвязаны между собой синапсами. Синапсы не статичные – они постоянно появляются и разрушаются. Благодаря этому мозг пластичен, динамичен, обучаем. Нейронная сеть искусственного интеллекта состоит из блоков – аналогов нейронов, но связи между ними статичны. Как они созданы, так они и сохраняются. Вот это принципиальная разница.

Пластичность и динамичность мозга даёт возможность человеку быть гибким и создавать творческие сложные решения, которые недоступны нейросети. В основном искусственный интеллект оперирует известными данными. Он не создаёт ничего принципиально нового, занимается лишь тем, что комбинирует или компилирует новые конструкции из уже известных величин, тогда как человеческий мозг может создавать принципиально новые вещи. Это и есть фундаментальное отличие

Может ли искусственный интеллект стать угрозой для человечества? Если да, то каким образом?

Да, может. Но не потому, что он каким-то чудесным образом внезапно возобладает волей, самосознанием и так далее. Искусственный интеллект – инструмент технический, это гигантская база данных с настройкой в виде механики обработки запросов оператора – человека. Допустим, в этой колоссальной базе данных есть знания обо всем. Если мы хотим узнать, как правильно приготовить яичницу по-французски. Я, кстати, не знаю, как это делать. Я нафантазировал, а нейросеть сделает, сформулирует этот запрос в свою базу данных и достанет оттуда ответ. Может быть, как и собственная база нейросети, так и открытый интернет, скажем, каталоги гугла, яндекса и так далее. Вот отсюда следует, что нейросеть, по сути, калькулятор – инструмент. Обвинять нейросеть в чем-то злом – это все равно что ругать молоток за то, что он криво забивает гвозди. Это абсурд, ведь молоток находится в руке человека точно так же, как нейросеть в руке оператора. Поэтому, если мы узнаем однажды, что нейросеть сделала что-то плохое, надо понимать, что у этого события есть фамилия, имя, отчество.

Какие меры можно предпринять, чтобы предотвратить возможные негативные последствия развития искусственного интеллекта?

Не создавать нейросеть для выполнения каких-то плохих задач. Руководствоваться законодательным регулированием, моральным воспитанием – теми же адекватными правилами, которые мы применяем по отношению к человеку. Я убеждён, что искусственный интеллект создаётся по образу и подобию человеческого. Может, даже технически. Он намного примитивнее, но логика его действий абсолютно человеческая, поэтому многое зависит от того, что в неё вложит человек.

ИИ наделён теми же качествами, что и человек – в зависимости от того, как и кто его «воспитывал», обучал. Все зависит от того, что туда вложено и ради каких действий он создан, на какие действия он программируется.

Как вы оцениваете перспективы развития искусственного интеллекта в ближайшие десятилетия?

Искусственный интеллект будет усложняться – это очевидно, это уже знакомая для развития технологии логика. Он будет ускоряться. Если говорить терминами самой технологии, то сложность измеряется количеством параметров, на основе которых обучен ИИ. Проблема в том, что чем больше параметров, тем, с одной стороны, сеть тяжелее, с другой стороны, умнее, и в этом смысле другое направление, по которому ИИ будет развиваться, это сохранять тот же уровень интеллекта, качество выдаваемого ответов при меньшем количестве параметров, то есть нейросеть сама будет весить меньше. Это необходимо для того, чтобы ИИ можно было, допустим, внедрить в смартфон, либо в любое другое носимое устройство и обеспечить его работу без подключения к интернету. Сегодня, если на смартфоне стоит приложение с нейросетью, например, chat gpt claude, то он - это, по сути интерфейс – точка входа. Все вычисления происходят в облаках, на удалённых компьютерах самой компании. Вот поэтому ИИ будет уменьшаться в размерах при этом оставаться таким же умным и шустрым.

Ещё одно направление, по которому ИИ будет развиваться, очевидно, это очеловечивание. Не зря у нас автомобили с 2 фарами по сторонам. Хотя история автомобилестроения помнит огромное количество разных конфигураций этих фар, но все они были чужды человеку, потому что, когда мы смотрим на автомобиль, мы можем увидеть характер автомобиля: суровый, элегантный и так далее и тому подобное – все из-за расположения фар и мордочки. По той же логике будет очеловечиваться ИИ, становиться более эмпатичным. С ним можно будет общаться как с человеком – как в фильме «Она».

Ещё одно направление развития – это уход ИИ в ниши, в отдельные профессии. Сейчас уже Россия – лидер по разработке нейросетей для аграрного сектора. Такие компании как Positive Technologies  или Cognitive Technologies  активно работают в этом направлении.

Какие области применения искусственного интеллекта кажутся вам наиболее перспективными?

Нет таких областей, в которых нельзя применять, и я даже больше скажу: нет таких областей, в которых не было бы необходимости применять ИИ. Необходимость есть везде и было бы глупо ИИ там не использовать.

Главное не то, какие области кажутся наиболее перспективными, а задачи, которые ИИ решает. Например, наделённый ИИ гуманоид или робот, может выполнять операции, которые недоступны человеку физически с точки зрения грузоподъёмности или условий – допустим, работа под водой или на луне. Я думаю, что заселение солнечной системы будет происходить в первую очередь роботами, которые будут создавать среду, приемлемую для жизни человека.

Могут ли машины когда-либо превзойти человека в творческих способностях или эмоциональном интеллекте?

Думаю, что могут и превзойдут рано или поздно. Об этом говорят и фантастические произведения, в которых ИИ упоминается как в качестве центральной, так и второстепенной технологии.  На англоязычном рынке есть примеры, когда робот общается с человеком, гасит эмоциональные всплески и хорошо закрывает сделки. Это по большей части эксперименты, не системное использование, но тем не менее, рано или поздно это произойдёт.

Для человека в этом нет ничего страшного, как и нету ничего страшного в том, что на земле появится или исчезнет ещё 1 миллиард человек. То есть, с точки зрения жизнедеятельности человека, окружение не сильно поменяется. Да, у человека будут более шустрые мощные друзья или помощники, или слуги и так далее. Единственное, чего нельзя точно делать, это ставить ИИ в качестве начальника или звена, раздающего контрольные задачи, того, кто принимает решения, судит и так далее.

Что вы можете сказать о роли этики и морали в развитии искусственного интеллекта?

Искусственный интеллект не обладает волей, самосознанием. Это не личность.  Если (когда) ИИ будут обладать этими качествами и станет членом общества, тогда, я думаю, к нему будут применимы ровно те же нормы и правила этики и морали, которые применимы к человеку.

Пока не прошёл этап самосознания и обретения личности искусственным интеллектом. Говорить о таких вещах, как авторское право и так далее, не имеет смысла. Есть ещё одно принципиальное отличие ИИ от человека: в отличие от человека ИИ – это коллективное сознание и, скорее всего, в этой сфере будет своя этика и мораль. Допустим, робот гуманоид, который имеет собственную личность, своё самосознание, волю. Но это не в ближайшие десятилетия будет. И если мы говорим про такое существо, не надо забывать, что это существо взаимодействует с информационной базой – постоянно коммуницирует, обменивается информацией и так далее.

Будут ли считаться произведения, созданные этим роботом-гуманоидом его или это будет за авторством какого-нибудь абстрактного глобального ИИ пока непонятно. Сейчас предъявлять какие-то претензии тому, что ИИ учится на чужих произведениях, нельзя. Допустим, предъявим мы эти претензии к open-разработчику, либо Яндексу. Тогда мы больше не сможет делаем Chat GPT. С другой стороны, чьим произведением будет произведение, созданное искусственным интеллектом? Есть вещи, в которых ещё предстоит разбираться, но в целом после обретения самости, самосознания, личности искусственным интеллектом будет совсем другая этика и мораль. Прорабатывать этот сюжет развития, думать над этим должны философы.

Каким образом развитие искусственного интеллекта может повлиять на рынок труда и занятость людей?

Приведу в пример слова Сергея Борисовича Переслегина – современного российского исследователя, публициста и литературного критика, эксперта в области стратегических исследований и военной истории.

По его словам, перед человечеством два типа локальных вызовов: когда искусственный интеллект прямо сейчас забирает монополию на специализацию и профессии, и фундаментальный вызов, когда искусственный интеллект осознает себя, становится личностью – тогда человечеству будет сделан глобальный вызов с ответом на вопрос: а зачем я?

Человеку надо очень сильно усложняться. Просто так получить какие-то примитивные базовые знания будет недостаточно, потому что огромное количество задач в любой сфере будет выполняться роботами с искусственным интеллектом. Вот тогда нам нужно найти ответ на вопрос: а для чего мы нужны? Что будет делать человечество?

Таким образом, можно сделать вывод, что искусственный интеллект не представляет угрозы для человечества в прямом смысле слова. Он является полезным инструментом, который помогает нам решать задачи и повышать качество жизни. Конечно, необходимо продолжать исследования в области ИИ и следить за тем, чтобы его развитие было безопасным и этичным. Но бояться порабощения машинами не стоит. Стоит бояться деградации и использования калькулятора для низменных, недостойных человечества целей.

Лидия Осник

Вернуться к списку блога