Безплатен софтуер позволява обработката на големи езикови модели с до 128 милиарда параметри под Windows,

29 юли 2025 г. - Днес AMD публикува актуализация на безплатен софтуера, която ще позволи поддръжка на работа с 128B параметри на големи езикови модели (LLM) – приблизително с размера на Chat GPT 3.0 – на компютри с Windows, базирани на процесори AMD Ryzen AI Max+ 395 128GB. Това представлява значителна промяна в това къде и как могат да се внедряват модели с изкуствен интелект.

Преди това модели от този мащаб бяха достъпни само през облака. Локалният изкуствен интелект обаче може да осигури по-голям контрол, да намали текущите разходи и да осигури важни подобрения в поверителността, като елиминира необходимостта от инфраструктура на трети страни. С тази актуализация AMD позволява на потребителите да стартират тези модели директно на устройството си, осигурявайки по-голяма гъвкавост при внедряването на изкуствен интелект.

Като позволява на компютрите с Windows да поддържат модели, обикновено запазени за мащабна облачна инфраструктура, AMD помага за промяна на местата, където може да работи усъвършенстваният изкуствен интелект. Не става въпрос само за пренасяне на облачни изчисления на настолни компютри; става въпрос за разширяване на гамата от опции за това как изкуственият интелект може да се използва, изгражда и разполага локално.

Ако искате да научите повече, можете да прочетете техническия блог тук, както и блога „Често задавани въпроси“ тук.