Додека многу телефони на Apple заостануваат кога станува збор за RAM меморијата, новиот истражувачки труд на Apple опишува како постарите iPhone телефони би можеле да имаат вештачка интелигенција без разлика на RAM меморијата.

Очекувањата се високи за водечките телефони со Android закажани за 2024 година кога станува збор за генеративната вештачка интелигенција (AI) на уредот, но Apple досега беше прилично тивок по ова прашање. Сепак, новиот истражувачки труд на Apple покажува дека вештачката интелигенција би можела да биде достапна природно дури и кај постарите iPhone-и, без оглед на нивната ограничена RAM меморија.

„Фајненшл тајмс“ го забележа истражувањето на Apple кое детално објаснува решение за водење на големи јазични модели (LLM) на уреди со ограничена RAM меморија. Истражувачкиот труд на Apple открива како компанијата може да ги чува „параметрите на моделот“ во складиштето на телефонот и потоа само да пренесува делови од него во RAM меморијата на уредот колку што е потребно, наспроти имплементирањето на целиот модел со вештачка интелигенција во RAM меморијата.

„Овој метод ќе им овозможи на моделите да се извршуваат со четири до пет и 20-25 пати побрзо заклучување на моделот во споредба со пристапите за вчитување на процесорот и графичкиот процесор“, се вели во извадок од трудот.

Генеративната вештачка интелигенција на уредот има корист од големата количина RAM меморија, обезбедувајќи поголема брзина на читање/запишување од просторот за складирање што се користи во премиум телефоните. Високите брзини се клучни за вештачката интелигенција на уредот, овозможувајќи многу побрзо време за заклучување на моделот, бидејќи корисниците не мора нужно да чекаат десетици секунди (или повеќе) за да добијат одговор.

Сето ова значи асистент со вештачка интелигенција на уредот кој потенцијално би можел да работи со брзина на разговор, побрзо да генерира слики/текст, побрзо да ги сумира написите и многу повеќе. Така, решението на Apple значи дека не мора да ви треба многу RAM меморија за вештачка интелигенција на уред кој има доволно добри перформанси.

Истражувачката работа на Apple на тој начин би можела да овозможи што е можно повеќе нови и постари iPhone-и да добијат способности за вештачка интелигенција на уредот – имајќи предвид дека тие генерално нудат помалку RAM од многу премиум телефони со Android. На пример, серијата iPhone 11 има само 4 GB RAM, додека дури и основниот, најновиот модел на iPhone 15 има само 6 GB RAM.

Доколку ова решение би било изводливо, би ја променило ситуацијата со молкот на компанијата од Купертино во однос на вештачката интелигенција. Но, Apple не е единствениот мобилен играч кој работи на оптимизирање на LLM на уредот.

Неодамна објавените чипсети на Qualcomm и MediaTek поддржуваат т.н INT 4 прецизност за оптимизирање на вештачка интелигенција и големи јазични модели. Во секој случај, индустријата дефинитивно ќе продолжи да наоѓа нови начини за намалување на системските барања за вештачка интелигенција на уредот, потенцијално дозволувајќи им на дури и телефоните од ниска класа да ги обезбедат овие способности.