MediaTek werkt samen met Alibaba Cloud voor grote modellen mobiele chips

Bron:www.ichunt.com

Volgens de Sci-Tech Innovation Board Daily heeft MediaTek, een fabrikant van smartphonechips, met succes grote modellen met 1,8 miljard en 4 miljard parameters ingezet op zijn vlaggenschipchips, zoals de Dimensity 9300, waardoor een diepgaande aanpassing van het grote model op mobiele chips en waardoor Tongyi Qianwen meerdere rondes van AI-dialoog kan voeren, zelfs in offline situaties. In de toekomst zullen de twee partijen ook grotere modellen van verschillende groottes aanpassen, waaronder een met 7 miljard parameters, gebaseerd op de Dimensity-chip.

Alibaba Cloud verklaarde dat het nauw zal samenwerken met MediaTek om grootschalige eindmodeloplossingen te bieden aan wereldwijde fabrikanten van mobiele telefoons.

Momenteel is MediaTek het halfgeleiderbedrijf met het hoogste verzendvolume van smartphonechips wereldwijd. Volgens de laatste gegevens van Canalys heeft het in het vierde kwartaal van 2023 meer dan 117 miljoen exemplaren verzonden, waarmee het op de eerste plaats staat, gevolgd door Apple met 78 miljoen zendingen en Qualcomm met 69 miljoen zendingen. Tongyi Qianwen is een fundamenteel groot model ontwikkeld door Alibaba Cloud. Tot nu toe heeft het versies gelanceerd met maximaal 100 miljard parameters en open-sourceversies met 72 miljard, 14 miljard, 7 miljard, 4 miljard, 1,8 miljard en 500 miljoen parameters, evenals multimodale grote modellen zoals de visueel begripsmodel Qwen-VL en het audio grote model Qwen-Audio.

Tijdens MWC2024 presenteerde MediaTek verschillende kunstmatige-intelligentietoepassingen, waaronder de Dimensity 9300- en 8300-chips. Het is duidelijk dat de Dimensity 9300-chip de toepassing van Meta Llama 2's grote model met 7 miljard parameters in het buitenland al heeft ondersteund, en dat deze is geïmplementeerd op telefoons uit de vivo X100-serie in China met een groot taalmodel met 7 miljard parameters op de Chinese markt. end-side, en heeft ook met succes een model met 13 miljard parameters uitgevoerd in een experimentele omgeving aan de end-side.

De samenwerking tussen MediaTek en Alibaba Cloud markeert de eerste keer dat het grote Tongyi-model hardware- en software-aanpassing op chipniveau heeft bereikt. Xu Dong, zakelijk hoofd van Alibaba's Tongyi Lab, legt uit: "End-side AI is een van de belangrijke scenario's voor de toepassing van grote modellen, maar wordt geconfronteerd met veel uitdagingen, zoals problemen bij het aanpassen van hardware en software en onvolledige ontwikkelomgevingen. Cloud en MediaTek hebben een reeks technische en technische uitdagingen overwonnen die verband houden met onderliggende aanpassing en ontwikkeling op het hoogste niveau, door het grote model echt in de mobiele chip te integreren en een nieuw implementatiemodel van Model-on-Chip voor end-side AI te verkennen.

Naast MediaTek promoot Qualcomm ook actief de implementatie van grote modellen op mobiele apparaten. Op 18 maart kondigde Qualcomm de lancering aan van het mobiele platform Snapdragon 8s van de derde generatie, dat grote taalmodellen ondersteunt met maximaal 10 miljard parameters en ook multimodale generatieve AI-modellen kan ondersteunen, waaronder Baichuan-7B, Gemini Nano, Llama 2 , en Zhipu ChatGLM van bedrijven als Baidu Xiriver, Google en META. Er wordt gemeld dat Xiaomi Civi 4 Pro de eerste zal zijn die wordt uitgerust met het mobiele platform Snapdragon 8s.

Een analist uit de consumentenelektronica-industrie verklaarde dat de samenwerking tussen Alibaba Cloud en MediaTek betekent dat binnenlandse fabrikanten van mobiele telefoons nu een alternatief hebben voor Baidu.

Volgens de mening van de verslaggever hebben Honor en Samsung eerder een samenwerking met Baidu Wenxin Yiyan aangekondigd. Het nieuwste vlaggenschip van Samsung, de Galaxy S24-serie, integreert bijvoorbeeld meerdere mogelijkheden van het grote Wenxin-model, waaronder bellen, vertalen en slimme samenvattingen. Bovendien onthulde een bron dat Apple momenteel contact heeft met Baidu, in de hoop de kunstmatige intelligentietechnologie van Baidu te gebruiken, en dat er al voorbereidende gesprekken tussen de twee partijen hebben plaatsgevonden.

Lin Dahua, een vooraanstaand wetenschapper bij het Shanghai Artificial Intelligence Laboratory, stelde dat met de exponentiële groei van op de cloud gebaseerde grote modellen de eindzijde op het punt staat een gouden groeiperiode in te gaan. Samenwerking op het gebied van de cloud zal in de toekomst een belangrijke trend worden, waarbij cloud-side computing het plafond zal bepalen en end-side computing de grootschalige gebruikersacceptatie zal ondersteunen.

Volgens voorspellingen van adviesbureau IDC zal het verzendvolume van smartphones op de Chinese markt in 2024 277 miljoen eenheden bereiken, met een jaar-op-jaar groei van 2,3%. Onder hen zal het verzendvolume van AI-telefoons 36,6 miljoen bereiken, met een jaar-op-jaar groei van meer dan drie cijfers. De toepassing van grote AI-modellen op mobiele telefoons zal steeds wijdverspreider worden.