Языковые модели, комфортные для запуска на смартфоне, имеют ограниченные возможности. Для пользователей гораздо удобнее обращаться к моделям, которые работают на сервере, используя смартфон в качестве клиента, рассказал НСН ведущий YouTube‑канала Pro Hi‑Tech Илья Корнейчук.
Система iOS 27 Apple даст пользователям возможность самим выбирать движок нейросети, который будет стоять за работой Siri и функциями Apple Intelligence. По данным агентства Bloomberg, это могут быть решения от Open AI, модели Gemini от Google и Claude от Anthropic. Корнейчук отметил, что это логичное решение со стороны Apple, так как сама корпорация отстала в разработках в сфере ИИ.
Эксперт также пояснил, что встроенные языковые модели весьма ограничены по сравнению с теми, которые работают на сервере.
«То, что мы называем искусственный интеллект — это маркетинговый термин такой же, как нанометр процессора. На самом деле мы имеем дело с рассуждающими большими языковыми моделями (Large Language Model, LLM — прим. НСН). Это инструмент, который вынесен в виде программного продукта. Рассуждающий инструмент LLM может быть разного размера: от очень маленького до очень большого. По сути, это как взять и собрать все энциклопедии мира. И если мы берем их в оригинальном качестве, не теряя ничего, чтобы они все поместились необходимо, допустим, 60 млрд параметров — это то, что на серверах работает. Комфортная модель для запуска на смартфоне — 4 млрд параметров, и оттуда нужно очень много разных деталей выкинуть. Она все еще остается в чем-то компетентной, но многие детали теряются. Поэтому, чтобы модели работали хорошо, конечно, удобно, когда телефон — это клиент, а сама модель крутится на сервере. Либо на телефоне выполняет какие-то небольшие отдельные функции, типа голосового помощника или еще что-то, что действительно может работать в рамках маленькой компактной модели. И не особо-то она и будет нагружать железо, потому что под это все выделяется отдельный чип», — сказал Корнейчук.
Он отметил, что в бытовом смысле это может быть интересной и полезной функцией для пользователя:
«Это анализ данных на вашем телефоне, анализ вашего распорядка дня — то, что раньше делалось программными методами. Сейчас этим всем может заниматься большая языковая модель, которая будет подстраиваться под вас и, допустим, советовать вам вовремя сделать зарядку, попить водички, не забыть поздравить маму с днем рождения. Мы можем себе представить ситуацию, что у вас у мамы день рождения, а вы до сих пор ей не позвонили, а iPhone про это знает. И тут вам вылезают не просто напоминание в календаре, а именно уведомления: А вы, кажется, забыли поздравить маму! И, конечно, анализ изображений, расшифровка голосовых сообщений, сбор Big Data, чтобы, в том числе, обучать новые языковые модели».
При этом Корнейчук подчеркнул, что пока сложно сказать, как новая операционная система будет функционировать у российских пользователей.
Ранее Илья Корнейчук в разговоре с НСН объяснял, почему Apple до сих пор не могут выпустить складной iPhone.