Фото: Zuma / TASS
Поделиться
Новая версия операционной системы для устройств компании Apple получила встроенные технологии искусственного интеллекта на основе разработок OpenAI. Это вызвало резко негативную реакцию самого известного в мире технологического бизнесмена Илона Маска. «Фонтанка» выяснила, есть ли из-за чего злиться и бояться ли простым пользователей «айфонов».
Илон Маск пригрозил запретить своим сотрудникам пользоваться техникой Apple, если она использует технологии искусственного интеллекта, анонсированные в новых версиях операционных систем для планшетов, компьютеров и телефонов. Эксперты отрасли сразу заподозрили бизнесмена в ревности. Он и сам пытался состыковать свои продукты с OpenAI, но не срослось.
«Маск не успел забраться на волну хайпа GenAI, и теперь у него подгорает всякий раз, когда на этом рынке случается какой-то громкий релиз, — иронизирует Юрий Брюквин, глава «Рустелеком». — Если GenAI это «пузырь», который рано или поздно лопнет с оглушительным треском, тогда и появится Илон на белом коне во фраке с блестками и скажет что-то типа: А я ведь всем вам говорил!».
Если отбросить шутки в сторону, здравое зерно в позиции Маска все же есть.
«Он весьма, не то что скептически, но осторожно относится к искусственному интеллекту. И на самом деле, зачастую, были ситуации, когда компании, даже тот же Apple, запрещал сотрудникам пользоваться сторонними какими-то приложениями для общения, потому что они им просто не доверяли, — говорит Денис Кусков, руководитель Telecom Daily. — Здесь, мне кажется, то же самое. Получается, что Илон Маск считает, что какие-то вещи в новой версии iOS могут спровоцировать утечку и пострадает его бизнес. Наверное, в таком контексте следует воспринимать его заявление».
При этом необходимо подчеркнуть, что проблема не в самом по себе искусственном интеллекте. В том или ином виде он давно присутствует в операционных системах и Apple, и Android, и Windows. То же распознавание лиц, работа с изображениями, да даже голосовые помощники — это все технологии искусственного интеллекта на разных стадиях его технологического развития.
А вот, что теперь в телефонах будет по умолчанию подключен ChatGPT, а Siri будет использовать полученные пользовательские данные для обучения на всех «айфонах» в мире — как раз и вызывает вопросы.
«Речь конкретно про т.н. генеративный ИИ, — т.е. про тот, который сам создает текст/изображения/видео», — объясняет Юрий Брюквин. Принцип его работы — в постоянном получении новой информации, передаче в общий центр анализа, обработки и выработки решений для все новых и новых задач. При таком подходе робот не разделяет информацию на секретную, чувствительную, вредную и пр., а просто использует все, что есть. А затем дает возможность всем обращающимся к нему клиентам пользоваться результатами такого анализа.
Таким образом, если вы, к примеру, загрузите каким-то образом — голосом, изображением или файлом с текстом — секретный рецепт пирожков своей бабушки, он, строго формально, немедленно станет общедоступным и может быть выдан пользователю на другом конце света, который попросит ChatGPT рассказать ему рецепт пирожков.
Это очень примитивное описание того, как работает генеративный искусственный интеллект. Принцип его обучения заключается в бесконечном переборе решений и поиске оптимального. В какой момент чувствительная для вас информация может показаться роботу полезной, и когда он ее обнародует и в каком виде, прогнозировать невозможно. Так что в принципе, опасения перед ChatGPT не бессмысленны на 100%, однако в чем конкретно заключается опасность, можно лишь делать предположения.
«Опасения искусственного интеллекта скорее актуальны именно для бизнеса, чем для физлиц. Для обучения генеративного ИИ используются, в том числе, пользовательские запросы. Соответственно, если ты попросишь GenAI проанализировать или описать какие-то конфиденциальные корпоративные данные, то они могут попасть в базу данных и затем использоваться, в том числе, для ответов на запросы других пользователей», — объясняет Юрий Брюквин.
«Чтобы возмутиться и начать протестовать и что-то бойкотировать, людям много не надо. Они сами себя накрутят и без искусственного интеллекта. И когда они где-то услышат, что AI анализирует их фотографии, где и при каких условиях они были сделаны и т.п., у людей начинает формироваться тревожное состояние, даже если они вообще никому не интересны ни в Купертино, ни где-то еще, — иронизирует Денис Кусков. — На мой взгляд было бы логично, если бы Apple дал возможность пользователю выбрать, использовать искусственный интеллект для работы или не использовать, а не ставить его по умолчанию. Ведь у каждого свое личное мнение. Другой вопрос, кто даст гарантию, что если человек поставит галочку «нет», то его данные действительно не будут использоваться в каких-то подобных целях?».
В целом же, использование технологий искусственного интеллекта в разработке операционных систем имеет перспективы, уверены эксперты. Так, российские компании и учреждения уже массово начинают переходить на российские ОС, а в их развитии горизонты пока просто необозримы.
«Чисто теоретически — это могут быть какие-то внутренние (отраслевые или специализированные) базы знаний, чтобы люди на местах могли простым запросом к GenAI выяснить какие-то ГОСТы, СНИПы, регламенты и проч, касающиеся их рабочего задания. Например, проектируют какой-нибудь ящик для ВПК — какая нормативка есть для него? И — вуаля, — не надо копаться в документах», — фантазирует Юрий Брюквин.
«Я бы прикручивал все это, но с осторожностью. Понятно, возможности искусственного интеллекта обширны. То количество информации, которую он может обработать, не обработает ни один человек. С точки зрения получения информации для таких сетей, это можно использовать», — рассуждает Денис Кусков.
При этом конкретно технология ChatGPT, которая появляется сейчас в «айфонах» — это все же очень далеко и от серьезного промышленного шпионажа, и от потенциального вреда, который может быть нанесен чувствительной корпоративной сети.
«Это маркетинг; один из способов отстройки от конкурентов. Например, Microsoft уже встроил ChatGPT в облачную платформу, и это позволило его облачному бизнесу расти быстрее конкурентов. В случае с Apple — то же самое. Встроив GenAI в платформу, они, тем самым, подчеркивают свою эксклюзивность и инновационность», — уверен Юрий Брюквин.
«Мне кажется что уже столько информации о нас вылезло в сеть, а государство и так обладает почти всеми нашими данными, так что бояться еще и ChatGPT просто нет смысла», — резюмирует Денис Кусков.
Фото: Zuma / TASS
