MediaTek співпрацює з Alibaba Cloud для великих моделей мобільних мікросхем

Джерело:www.ichunt.com

За даними Sci-Tech Innovation Board Daily, MediaTek, виробник чіпів для смартфонів, успішно розгорнув великі моделі з 1,8 мільярда і 4 мільярди параметрів на своїх флагманських чіпах, таких як Dimensity 9300, досягнувши глибокої адаптації великої моделі на мобільних чіпах і дозволяючи Tongyi Qianwen запускати кілька раундів діалогу штучного інтелекту навіть в автономних ситуаціях. У майбутньому обидві сторони також адаптуватимуть більше великих моделей різних розмірів, у тому числі одну з 7 мільярдами параметрів на основі чіпа Dimensity.

Alibaba Cloud заявила, що буде тісно співпрацювати з MediaTek, щоб надавати глобальним виробникам мобільних телефонів кінцеві рішення для великих моделей.

Наразі MediaTek є напівпровідниковою компанією з найбільшим обсягом поставок чіпів для смартфонів у світі. Згідно з останніми даними Canalys, у четвертому кварталі 2023 року компанія поставила понад 117 мільйонів одиниць, посівши перше місце, за нею йдуть Apple з 78 мільйонами поставок і Qualcomm з 69 мільйонами поставок. Tongyi Qianwen — фундаментальна велика модель, розроблена Alibaba Cloud. Наразі він запустив версії з до 100 мільярдів параметрів і версії з відкритим вихідним кодом із 72 мільярдами, 14 мільярдами, 7 мільярдами, 4 мільярдами, 1,8 мільярдами та 500 мільйонами параметрів, а також мультимодальні великі моделі, такі як візуальне розуміння моделі Qwen-VL і аудіо велика модель Qwen-Audio.

Під час MWC2024 MediaTek продемонструвала різні програми штучного інтелекту, включаючи чіпи Dimensity 9300 і 8300. Зрозуміло, що чіп Dimensity 9300 вже підтримує застосування великої моделі Meta Llama 2 із 7 мільярдами параметрів за кордоном, і він був реалізований на телефонах серії vivo X100 у Китаї з великою мовною моделлю з 7 мільярдами параметрів на кінцевої сторони, а також успішно запустив модель із 13 мільярдами параметрів у кінцевому експериментальному середовищі.

Співпраця між MediaTek і Alibaba Cloud знаменує собою перший випадок, коли велика модель Tongyi досягла апаратної та програмної адаптації на рівні чіпа. Сюй Донг, бізнес-керівник лабораторії Tongyi Alibaba, пояснив: «Кінцевий штучний інтелект є одним із важливих сценаріїв для застосування великих моделей, але він стикається з багатьма проблемами, такими як труднощі в адаптації обладнання та програмного забезпечення та незавершені середовища розробки. Alibaba Cloud і MediaTek подолали низку технічних та інженерних проблем, пов’язаних із базовою адаптацією та розробкою верхнього рівня, справді інтегруючи великі моделі в мобільний чіп і досліджуючи нову модель розгортання Model-on-Chip для кінцевого ШІ».

Окрім MediaTek, Qualcomm також активно просуває впровадження великих моделей на мобільні пристрої. 18 березня Qualcomm оголосила про запуск третього покоління мобільної платформи Snapdragon 8s, яка підтримує великі мовні моделі до 10 мільярдів параметрів, а також може підтримувати мультимодальні генеративні моделі ШІ, зокрема Baichuan-7B, Gemini Nano, Llama 2. і Zhipu ChatGLM від таких компаній, як Baidu Xiriver, Google і META. Повідомляється, що Xiaomi Civi 4 Pro стане першим, який буде оснащений мобільною платформою Snapdragon 8s.

Аналітик галузі побутової електроніки заявив, що співпраця Alibaba Cloud і MediaTek означає, що вітчизняні виробники мобільних телефонів тепер мають альтернативу Baidu.

За інформацією журналіста, Honor і Samsung раніше оголосили про співпрацю з Baidu Wenxin Yiyan. Наприклад, останній флагманський телефон Samsung, серія Galaxy S24, об’єднує численні можливості великої моделі Wenxin, включаючи виклики, переклад і інтелектуальне підсумовування. Крім того, джерело показало, що Apple зараз підтримує зв’язок з Baidu, сподіваючись використовувати технологію штучного інтелекту Baidu, і попередні переговори вже відбулися між двома сторонами.

Лін Дахуа, провідний науковець Шанхайської лабораторії штучного інтелекту, заявив, що з експоненціальним зростанням хмарних великих моделей кінцева сторона ось-ось увійде в золотий період зростання. Співпраця в хмарі стане важливою тенденцією в майбутньому, коли хмарні обчислення встановлять межу, а кінцеві обчислення підтримають широкомасштабне впровадження користувачів.

Згідно з прогнозами консалтингової фірми IDC, обсяг поставок смартфонів на китайський ринок у 2024 році досягне 277 мільйонів одиниць із зростанням у річному обчисленні 2,3%. Серед них обсяг поставок телефонів зі штучним інтелектом сягне 36,6 мільйонів, причому річний темп зростання перевищить тризначний показник. Застосування великих моделей ШІ на мобільних телефонах стане все більш поширеним.