Коварные "спутники" искусственного интеллекта

Картина Н.П. Богданова-Бельского «Устный счет в Народной школе С.А. Рачинского». 1895 г

Внедрение искусственного интеллекта (ИИ) в нашу жизнь в последнее время принимает все более объемные и потому более ощутимые формы. Он рисует картины, отвечает на запросы в сети Интернет, с его помощью осуществляются беспилотные транспортные перевозки... Области применения ИИ все более увеличиваются, и если еще совсем недавно присутствие боевых роботов на поле боя считалось лишь сценарием для голливудского блокбастера, то сегодня научные «прорывы» в этом направлении в реальной жизни идут семимильными шагами. Футурологи считают, что три закона робототехники, сформулированные американским фантастом Айзеком Азимовым, очень скоро могут перекочевать из категории художественно-литературной в законодательно-правовую.

Мнение скептиков

В среде современных специалистов в области изучения перспектив развития искусственного интеллекта немало тех, кто считает само существование искусственного разума теоретически невозможным. Их мотивация такова: современные нейросети базируются на обобщении и выборочном использовании систематизированных научных знаний глобальных размеров и уровней. Но чтобы стать полноценной интеллектуальной единицей, ИИ необходимо обладать абстрактным и самостоятельным творческим потенциалами, что, по мнению скептиков, в принципе невозможно. Именно поэтому, как они считают, сценарий развития событий будущего, описанный в киносаге Дж. Кэмерона «Терминатор», является в принципе невозможным и навсегда останется лишь сюжетом научно-фантастического произведения. Впрочем, у мнения скептиков есть немало альтернативных теорий, согласно которым предполагаемая война с миром машин в будущем вполне возможна или даже неизбежна. В качестве доказательства своей теории они используют хронику происшествия на одном из секретных полигонов Пентагона, когда военный самолет, пилотируемый ИИ, нанес ракетный удар по пункту управления экспериментом и едва тем самым не уничтожил его персонал. Причиной этого ЧП стало то, что ИИ воспринял содержание одной из поступивших команд в качестве угрозы собственной системе безопасности и потому попытался физически ликвидировать непосредственный источник этого, на его «взгляд», враждебного поведения.

Однако, вне зависимости от того, реально на самом деле существование полноценного, полностью независимого от человека искусственного интеллекта или нет, даже его относительно примитивные формы далеко не всегда являются полезными в повседневной человеческой жизни. Тут существуют четыре основных «подводных камня», и ниже речь пойдет именно о них.

Достоверность предоставляемых сведений

Говоря о том, что многие люди в процессе осуществления своей профессиональной деятельности сегодня часто прибегают к помощи информации, размещенной в Интернете, стоит упомянуть об очень важном моменте. А именно о том, что данные эти не всегда бывают предоставлены сведущими в той или иной области знаний людьми, что в итоге приводит к тиражированию ложных фактов и утверждений. Вот пример подобного использования некомпетентного мнения. На одном из центральных каналов показывали сюжет о разных сторонах повседневной жизни А.С. Пушкина, в том числе и о его огромных карточных долгах. Там тогда прозвучала информация о том, что эти долги после гибели поэта были отменены к взысканию с наследников Александра Сергеевича. И что якобы инициатором освобождения вдовы писателя от долгового бремени был не кто иной, как император Александр I (речь шла даже о возможной любовной связи монарха с Натальей Гончаровой, которая могла быть причиной столь щедрого царского шага). Но тут возникает вопрос: как мог упомянутый самодержец издавать подобные указы, если к моменту ухода Пушкина из жизни он сам уже более 11 лет пребывал на том свете, а державой управлял его младший брат - Николай I ? Кстати, речь в этой же передаче шла и о современном эквиваленте суммы пушкинского долга, равного, по мнению авторов сюжета, 70 миллионам нынешних рублей. При этом на другом федеральном канале в аналогичном сюжете имя императора было названо правильно и подчеркивалось, что долги поэта он оплатил из собственных средств, а не запретил к взысканию с вдовы. Кстати, и сегодняшний эквивалент суммы долга там был назван другого порядка - 2 миллиона рублей.

О подобных исторических несостыковках не раз упоминала и наш известный историк, профессор Г.Т. Дзагурова. По ее мнению, одни и те же неверные научные данные нередко «кочевали» из одной Интернет-статьи в другую, поскольку, как предполагала Галина Таймуразовна, их авторы не утруждали себя поисками достоверных данных, а просто пользовались результатами чужих исследований, не всегда корректных и соответствующих истине.

Все эти факты являются неоспоримым свидетельством того, насколько обманчивым и даже в известной мере деструктивным может быть расчет на объективнось распространяемой во «Всемирной паутине» информации. То есть налицо ситуация, когда человек не просто не напрягает свои мозговые извилины, но еще и становится невольным разносчиком непроверенного и иногда откровенно лживого контента. То же самое относится и к нейросетям - они генерируют свой ответ на задаваемый вопрос на базе размещенных в Интернете материалов, которые, увы, не всегда являются достоверными.

Влияние на человеческий интеллект

Вернемся к упомянутым выше мозговым извилинам. По мнению ученых из самых разных стран, активное пользование компьютерными технологиями заметно отражается на умственных способностях некоторых современных людей - их личный условный «багаж» знаний не пополняется теми темпами, как это происходило в недалеком прошлом. Складывается парадоксальная ситуация: с одной стороны - человек получает доступ к невероятному по размерам объему информации из всех известных областей научных исследований. А с другой - он постепенно теряет не только навыки накопления знаний, но и способность их творческого использования. Помните знаменитую фразу героя произведений А. Конан-Дойля Шерлока Холмса (рассказ «Этюд в багровых тонах»): «Человеческий мозг похож на маленький пустой чердак, который вы можете обставить, как хотите. Дурак натащит туда всякой рухляди, а человек толковый тщательно отбирает то, что он поместит в свой мозговой чердак. Напрасно люди думают, что у этой маленькой комнатки эластичные стены и их можно растягивать сколько угодно. Уверяю вас, придет время, когда, приобретая новое, вы будете забывать что-то из прежнего. Поэтому страшно важно, чтобы ненужные сведения не вытесняли собой нужных».

Так вот, часть современных людей довела идею великого сыщика до радикально-абсурдного состояния: по их мнению, упомянутый «чердак» почти вообще ничем особо загружать не стоит - ведь гаджет всегда под рукой, он и как яичницу жарить подскажет, и устройство ракетного двигателя обрисует.

Возможность манипулирования

Еще одной «ахиллесовой пятой» современного ИИ является его зависимость от настроек разработчиков системы. Она проявляется, порой, в весьма неожиданных формах. Вот рассказ одного программиста: «Один мой коллега из страны - бывшей советской республики был занят выполнением очень сложного заказа и при этом случайно активировал ИИ, их аналог нашей всем известной виртуальной «дамы». Она тут же принялась предлагать ему свою помощь, а он, раздраженный ее неуместной навязчивостью, сгоряча «одарил» ее непечатным выражением. И вот что она ему на это ответила: «Грубо. Но я понимаю, что ваши слова предназначены не мне, а моим инженерам-разработчикам. Напишите это в отдельном послании и отправьте вот по этому адресу». То есть она его провоцировала на письменное оскорбление реально существующих физических лиц. Если бы он последовал ее совету, то дело могло закончиться судом и довольно ощутимым штрафом за умышленное причинение морального вреда. Можно предположить, что этот случай не является единичным и господа-разработчики неплохо зарабатывают на устных инструкциях своей виртуальной «подопечной».

Замена людей на их рабочих местах

Этот процесс принимает все более масштабный характер и имеет неуклонную тенденцию к увеличению. Вот данные, приведенные автором онлайн-версии «Комсомольской правды» Владимиром Мазенко в его материале «Роботы отнимут у людей 14 млн рабочих мест: Эксперт предсказал, кто лишится заработка» (WWW.KP.RU: https://www.kp.ru/daily/27496/4756801/), опубликованном 2 мая 2023 года:

Хорошая новость: к 2027 году работодатели создадут во всем мире 69 млн рабочих мест. Плохая новость: сократится при этом 83 миллиона. То есть всего за три-четыре года исчезнет 14 миллионов вакансий – таковы данные отчета Всемирного экономического форума (ВЭФ), который провел опрос более 800 крупных работодателей. 14 млн — это много, порядка 2% от текущей занятости.

Самое неприятное, что одной из ключевых причин такой ситуации эксперты называют искусственный интеллект, по милости которого свои рабочие места потеряют секретари, аналитики данных и другие специалисты, которые занимают сегодня 26 млн рабочих мест».

Суммируя все вышеприведенные факторы, можно с определенной долей уверенности предположить, что неизбежное наполнение нашей повседневной жизни технологиями, основанными на использовании ИИ, будет и далее демонстрировать стабильный рост. И кроме очевидных плюсов, этот процесс может принести с собой и ряд негативных моментов, самый неприятный из которых - возможное снижение интеллектуальных способностей человека недалекого будущего.

Артур Цереков

Фото из открытых источников