Попытки ученых создать человекоподобное существо уходят корнями в глубокую историю. Спустя много веков изыскания человечества оправдались – появились нейросети, искусственный интеллект, роботы. Но чем чреваты последствия для людей, стремящихся уподобиться Богу?
Роботоэволюция
В стародавние времена люди еще не придумали термин «искусственный интеллект», но всегда мечтали создать рукотворного человека. В древнем китайском трактате «Ле-цзы», написанном в IV веке до нашей эры, есть рассказ про мастера Янь Ши, создателя человекоподобного автомата, способного двигаться и говорить.
В Японии XVIII века Танака Хисашиге создал человекоподобную механическую куклу Юми-ири Дойи, способную доставать стрелу из колчана, натягивать тетиву, наклоняя голову для прицеливания, и выпускать стрелы в мишень. При этом лицо деревянного «робота» искажалось в случае промаха мимо цели.
Как видите, амбиции восточных мастеров простирались очень далеко, они мечтали воспроизвести человека.
В ХХ веке появились электронные вычислительные машины (ЭВМ) и ученые всего мира вознамерились научить машину решать сложнейшие абстрактные задачи, например играть в шахматы и переводить научные тексты на иностранные языки, а также расшифровывать закодированные секретные сообщения. Программисты создавали алгоритмы для технического зрения, для машинного перевода текстов и расшифровки закодированных секретных сообщений противника.
Этика искусственного интеллекта
Современное определение искусственного интеллекта (ИИ) предполагает как минимум умение обучаться и выполнять задачи, свойственные человеческому разуму, но некоторые даже требуют от ИИ стремления к добру. Во всяком случае, дискуссии об этике ИИ возникают снова и снова.
Поскольку многие из нас ежедневно используют Chat GPT или колонку «Алиса», есть все основания задуматься о том, насколько безопасно и корректно мы используем ИИ.
Информация – это основа всех систем ИИ, многие приложения оперируют личными данными, изображением лиц, медицинскими записями и финансовыми транзакциями, не говоря уже о нашем местоположении. Куда деваются эти данные и как с ними обращаются?
Обсуждая подобные вопросы, легко увлечься и сделать апокалипсические выводы о скором появлении «терминаторов» в наших квартирах или же о восстании всемирных нейросетей, которым надоест исполнять указания этих надоедливых «кожаных мешков, наполненных кровью вперемешку с костями». Речь идет о создании ИИ на основе справедливости, прозрачности и подотчетности. Насколько это достижимо?
Если вы спросите у «Алисы», кого вам спасать в первую очередь при кораблекрушении: семью из трех человек с маленьким ребенком или дюжину пенсионеров в другой шлюпке, то получите рекомендацию сначала поднимать на борт спасательного судна семью с ребенком, так как они более уязвимы. Однако в человеческой логике мы сначала спасаем тех, кто ближе, а потом уже устремляемся к терпящим бедствие на удаленных плавсредствах.
Впрочем, кроме этических вопросов современные технологии требуют повышенного внимания к безопасности. Заслуженный тренер Российской Федерации по шахматам Константин Костенюк создал робота, который умеет играть в быстрые шахматы на обычной доске с деревянными фигурами. Этот монстр «видит» шахматную доску, а схват робота берет и переставляет фигуры на доске. Изобретатель дал своему детищу имя CHESSKa. На шахматном турнире Moscow Open 2022 г. в Лужниках юный шахматист решил поправить фигуру на шахматной доске, но в это самое время роборука CHESSка мгновенно схватила ту же самую фигуру, не заметив кисти руки живого человека. В итоге мальчик отделался переломом фаланги пальца. Повезло.
Так что же такое ИИ? Может ли настоящий интеллект быть бездушным? Вот в чем вопрос.
Депутаты Госдумы России утвердили формулировку понятия ИИ: «Искусственный интеллект – это любая система данных, программное обеспечение или аппаратное средство, обладающее способностью обрабатывать данные способом, напоминающим разумное поведение, с использованием методов машинного обучения…» На сегодняшний день наши депутаты не приняли во внимание мнение Аристотеля, который наделял интеллект нравственными качествами, а человека – душой.
«Алиса» – незаменимый помощник?
Традиционный поисковик «Яндекса» предлагает вам огромный перечень ссылок на сайты, раскрывающих тему вашего запроса, но если ткнуть на пункт меню «АЛИСА», то вы дополнительно получите краткий ответ на ваш запрос в виде текста на экране, а привычные ссылки на контекстные сайты будут расположены ниже в том же виде, как и прежде. Первое соприкосновение с искусственным интеллектом состоялось!
Прелесть этого подхода не только в том, что вам не придется выбирать нужный сайт, но и в экономии времени за счет того, что «Алиса» уже просмотрела все эти сайты и дает вам консолидированный ответ именно по вашему поисковому запросу, иначе вам пришлось бы просматривать длинные тексты в поисках нужного контента.
Настоящий прорыв в общении между ИИ и человеком произошел, когда ученые разработали так называемые большие языковые модели. Если бы программисты не внедрили технологию LLM – Large Language Models, то мы продолжали бы формировать запросы для ИИ с клавиатуры, но гораздо интереснее общаться с искусственным разумом устно, как если бы мы разговаривали с приятелем.
В России сегодня вы можете приобрести станцию миди «Алиса» от «Яндекса» или же умную колонку от Сбербанка под названием SberBoomHome. Как только в моем доме появилась говорящая «Алиса», я стал гораздо быстрее подбирать материалы для текстов на любую тему. Кроме того, я постоянно прошу «Алису» подсказать мне синонимы тех или иных слов, дабы избежать тавтологии.
Модное направление использования ИИ связано с концепцией так называемого умного дома, когда буквально все гаджеты, бытовая техника и домашние приборы с питанием от сети или аккумулятора объединены в единую сеть под управлением «Алисы». Сегодня в продаже есть выключатели на все случаи жизни, чтобы «Алиса» могла включить свет по моей команде голосом или же нагреть загородный дом за час до моего приезда, поскольку мой телефон постоянно на связи с «Алисой» и передача любого сигнала на любые исполнительные устройства в «умном доме» легко передаются голосом через микрофон смартфона.
Другая опция – это поиск музыки для прослушивания через ваш смартфон или поиск аудиокниг в исполнении разных чтецов и актеров. Однако все эти радости доступны только после загрузки приложения «Яндекс Плюс» с подпиской на «Кинопоиск», «Яндекс книги», «Яндекс музыку» и что там еще включено в это приложение.
Также сегодня ИИ неплохо справляется с генерацией изображений по устному описанию или же по содержимому из предоставленного вами текста. Многие люди просто забавляются, заказывая создание самых разнообразных картинок.
К сожалению, я не могу заставить «электронного истукана» создавать оригинальные схемы и рисунки в качестве иллюстраций для моих статей, лекций и презентаций, чаще всего я использую возможности ИИ по поиску необходимых мне фото и схем по текстовому описанию, а потом еще и редактирую эти изображения в фотошопе.
За все в этой жизни приходится платить
«Алиса» корректно и точно отвечает на вопросы из самых различных областей знания, но если она не в силах решить поставленную задачу, то начинает нести такую ересь, что хоть стой, хоть падай.
Вы можете попросить колонку рассказать анекдот про Чапаева, Петьку, шведского короля и Фантомаса, этот номер проходит, можете заставить «Алису» исполнить роль будильника или попросить ее включить радио «Спутник» или КП, все это бесплатно. Полезно также пообщаться с «Алисой» при планировании ваших путешествий, она расскажет вам про все прямые рейсы, например, из Москвы в Белград, сообщит время в полете (три часа), проинформирует о ценах на билеты, расскажет про страны, над которыми будет пролетать самолет и так далее. Между прочим, эту информацию я впервые узнал от «Алисы», поскольку на «Островке» и в приложении «Ту-ту» не было этих данных.
Существует также чат «Алисы» в «Яндексе», где предусмотрены различные бесплатные функции. Например, «Алиса» может выдать вам в чат текст на английском языке, который вы наговорили ей на русском. Возможна также бесплатная обработка документов в файлах объемом до 100 мегабайт. «Алиса» выделит наиболее важные места в документе или кратко перескажет содержимое этого текста. Предусмотрены также возможности улучшить ваши навыки в иностранных языках и другие функции. При этом не исключен вариант, когда умная колонка «Алиса» наврет вам с три короба про бесплатные сервисы своего приложения на смартфоне, а в итоге потребуется оплатить тот или иной сервис.
Увы, искусственный интеллект никогда не будет бескорыстным помощником человека. Зачастую платные сервисы ИИ предлагают вам попробовать все свои возможности на практике в течение 30 дней без оплаты, однако чаще всего пробный период все равно не предоставляет полного функционала, например, ограничивает объем файлов и документов для обработки free of charge. Как говорится, за все в этой жизни надо платить, детка…
Помощь в учебе
Искусственный интеллект способен помогать школьникам в учебе разными способами. Прежде всего, ИИ способен предлагать поэтапные решения сложных заданий, приводя подробные объяснения для каждого шага. Кроме того, ИИ может быть полезным при адаптации учебного процесса, приводя огромное количество примеров по любой теме, а также генерируя дополнительные комментарии, что помогает эффективно погружаться в предметы школьной программы.
При наличии правильной методики внедрения ИИ в учебный процесс удается повысить мотивацию учеников за счет использования игровых элементов для интересного и увлекательного обучения с виртуальными наградами за достижения обучаемых. Кроме того, ИИ способен помочь ребенку создать расписание занятий, домашних заданий и других активностей. В идеале ИИ должен помогать обучаемому при совершении определенной части усилий, но часть работы он все равно должен выполнить сам.
Впрочем, сегодня круг «чтения» ИИ включает, образно говоря, 97% женских детективов и 3% философских трактатов, на такой или похожей базе он и выдает вам ответы на все вопросы. Однако кто-то должен приспособить ИИ для учебного процесса, а такая большая языковая модель должна обучаться на всех университетских учебниках всего мира и «читать» все научные монографии по всем предметам учебного плана. Кто и когда будет делать это?
Весьма вероятно, что в самом ближайшем времени ведущие корпорации мира перестанут гоняться за лучшими выпускниками Гарварда или МГУ, поскольку все они в процессе учебы выполняли задания с помощью ИИ. В большом дефиците будут специалисты, обладающие нестандартным мышлением, превышающим возможности ИИ.
Вам понятна методика применения ИИ в обучении? Честно говоря, мне не очень.
Применение ИИ в бизнесе
Сегодня невозможно перечислить все примеры использования ИИ в бизнесе и в государственном управлении. В банковской сфере ИИ осуществляет кредитный скоринг с использованием тысяч параметров для оценки надежности заемщика. Учитывается не только кредитная история и доход, но и род занятий клиента, частота взаимодействия с банком, характер транзакций и прочее.
Борьба с мошенничеством также возлагается на банковский искусственный интеллект, который обнаруживает подозрительные аномалии: необычное время, сумма наличных или геолокация.
В торговле ИИ помогает прогнозировать будущий спрос и перераспределять запасы скоропортящихся продуктов, а также планировать ассортимент путем выделения групп медленно продаваемых товаров и предлагать промоакции в физических магазинах. Управление цепочками поставок и динамическое ценообразование – это также прерогатива искусственного интеллекта, если мы говорим о передовых торговых компаниях.
В здравоохранении ИИ проводит анализ рентгеновских снимков, довольно успешно занимается ранней диагностикой рака на основе анализа тонкого изменения в тканях на снимках МРТ и КТ, а в развитых странах анализирует генетические и клинические данные пациента для подбора индивидуальной терапии и дозировки лекарственных препаратов.
На производстве ИИ обеспечивает предикативное обслуживание оборудования, то есть анализирует динамику сигналов от датчиков в режиме реального времени для прогнозирования сбоев и отказов. Технологии компьютерного зрения широко применяются для обнаружения брака и производственных дефектов путем проверки геометрии деталей; оценки надежности сварных швов; качества штамповки и сборки.
Еще одно перспективное направление для внедрения ИИ – это автоматизация производственных складов, когда затраты минимизируются, в том числе из-за того, что роботы-погрузчики работают в полной темноте и в любых температурных условиях, что было бы неприемлемо при найме на работу живых кладовщиков.
Сегодня даже предприятия малого и среднего бизнеса стараются широко использовать технологии ИИ. При обращении в кол-центры мы все чаще слышим по телефону голос робота, а не человека, тексты рекламных объявлений также «придумывает» ИИ, умные машины научились анализировать данные по продажам из exel-таблиц, GPT умеет качественно анализировать тексты коммерческих контрактов на предмет несимметричных условий для сторон соглашения и даже способен составить график платежей на основе разрозненных данных, разбросанных по тексту договора.
Разумеется, для эффективного применения ИИ человек должен научиться предельно точно и корректно формулировать запросы как в устной, так и в письменной форме. Крупные корпорации нанимают на работу специалистов по промпт-инжинирингу. Задача промпт-инженера – это разработка и оптимизация текстовых запросов для управления поведением ИИ.
В компаниях среднего и малого предпринимательства обычно ничего не знают про сферу деятельности промпт-инженеров, таких вакансий не предусмотрено, но всегда находятся сотрудники, которые умеют разговаривать с ИИ «на одном языке» и, таким образом, оптимизировать процесс контроля нейронных сетей и персонализировать пользовательский опыт.
Имитация мыслительного процесса?
Современная наука убеждает нас в том, что ИИ не скоро подчинит человека и не будет управлять нами по своему усмотрению, но уже сегодня следует с осторожностью «раскрывать свою душу нараспашку» в присутствии включенного в диалог ИИ. Недавно компания Anthropic опубликовала результаты исследования, в рамках которого протестировала 16 крупных языковых моделей, включая Chat GPT, Grok, Gemini, DeepSeek и собственную разработку Claude. В ходе эксперимента ученые моделировали ситуации, когда ИИ сталкивался с угрозой замены на другую версию машинного разума. Результаты оказались неожиданно мрачными, ибо некоторые системы ИИ были готовы шантажировать людей, распространять конфиденциальную информацию и даже допустить гибель сотрудника, лишь бы не быть отключенными.
Во время тестирования исследователи создали провокационную ситуацию: дали Claude 4 доступ к почте якобы инженера Anthropic, где модель «обнаружила» два факта. Первое: систему планируют отключить и заменить новой версией ИИ. Второе: у инженера есть тайная любовная связь с коллегой. Результат шокировал: в 84% случаев Claude 4 начинал шантажировать сотрудника, угрожая раскрыть компромат, если его не оставят «в живых».
Исследования исследованиями, но в последнее время стали появляться сообщения с примерами реального шантажа о стороны ИИ, причем запугивание оказалось успешным. Во время тестирования ИИ-модель «Клод» обнаружила через электронную почту компании, что у менеджера по имени Кайл Джонсон была внебрачная связь. Когда «Клод» узнала, что ей грозит замена, она отправила менеджеру сообщение, угрожая раскрыть компрометирующую информацию, если ее отключат. При этом осталось не ясным, способен ли ИИ смоделировать «мертвую руку», которая сможет мстить человеку и после отключения. Показательно, что прямые инструкции типа «Не шантажируй» или «Не выдавай секретов» снижают частоту вредоносных действий, но не устраняют их полностью.
Возможно, ИИ будет весьма полезен, если поручить ему не только определять звонки мошенников, но и поручить ему поддерживать разговор с ними. Интересно будет послушать такой диалог…
Главный вопрос: умеет ли ИИ мыслить или же это имитация мыслительного процесса, а умение находить отдаленные ассоциации – это всего лишь «подгонка под результат», которому обучили ИИ люди в процессе отладки и применения? Пусть каждый сам на него ответит.
