Компания AMD представила свежую версию Lemonade 11.8 — программного обеспечения для локального запуска больших языковых моделей с открытым исходным кодом. Важным нововведением стало экспериментальное включение бэкенда DwarfStar «ds4», что существенно облегчает использование языковой модели DeepSeek V4 Flash на процессорах Ryzen AI Max из линейки Strix Halo.
DeepSeek V4 Flash — это модель, основанная на архитектуре Mixture-of-Experts и содержащая 284 миллиарда параметров, при этом для работы одновременно задействуются лишь 13 миллиардов. Такой подход позволяет достичь высокой производительности при сохранении качества генерируемого текста. Благодаря новой интеграции пользователи систем на базе Strix Halo, включая Framework Desktop и AMD Ryzen AI Halo Developer Platform, могут запускать эту модель локально, без необходимости использования облачных сервисов.
Платформа Lemonade предлагает разработчикам унифицированный API, совместимый с протоколами OpenAI, Anthropic и Ollama. Данный инструмент поддерживает широкий спектр задач, включая генерацию текста, создание изображений, распознавание речи и синтез голоса. Все вычислительные процессы выполняются локально на графических процессорах и нейронных ускорителях, что гарантирует конфиденциальность данных и исключает расходы, связанные с облачными вычислениями.
Помимо поддержки DeepSeek V4 Flash, обновление 11.8 увеличило количество доступных моделей. В него включены чат-бот RPG-HaloTales-V2, генераторы изображений Flux-2-Klein-4B и 9B, а также голосовые модели OpenMOSS для создания звуковых эффектов. Также был внедрен новый способ получения обновлений, что упрощает процесс обслуживания системы.
Процессоры серии Strix Halo имеют шестнадцать ядер, построенных по архитектуре Zen 5, а также встроенный графический ускоритель Radeon 8060S, включающий сорок вычислительных блоков. Такая конфигурация позволяет эффективно выполнять задачи, связанные с большими языковыми моделями, непосредственно на компьютере пользователя.
