QNAP обяви AI сторидж сървър за локално LLM моделиране и общи AI задачи

Моделът QAI-h1290FX дава възможност за работа с AI в офиса с изцяло флаш дискове и опции за NVIDIA® RTX™ GPU ускорители

Неприкосновеността на данните и високата изчислителна производителност се превръщат в стратегически диференциращи фактори за организациите, внедряващи изкуствен интелект. Съответно продължава да расте търсенето на частна, локална AI инфраструктура. В отговор на тази тенденция, QNAP® Systems, Inc. представи QAI-h1290FX, следващо поколение Edge AI сторидж сървър, проектиран да даде възможност за локално внедряване на големи езикови модели (LLM), търсачки с добавено генериране на данни (RAG) и генеративни AI приложения.

Снабден със сървърен AMD EPYC™ процесор, с поддръжка на NVIDIA® RTX™ GPU и дванадесет U.2 NVMe/SATA SSD слота, QAI-h1290FX предоставя високопроизводителна локална AI инфраструктура за организации, които изискват ниска латентност, пълна поверителност на данните и оперативен контрол – без да разчитат на облака.

Работещ под ZFS-базираната операционна система QuTS hero на QNAP, QAI-h1290FX осигурява защита на данните от корпоративен клас, почти неограничени моментни снимки и вградена дедупликация. Той поддържа нативен GPU достъп в контейнери чрез Container Station и GPU passthrough за виртуални машини чрез Виртуализационна станция. ИТ екипи, разработчици и изследователски групи могат ефективно да изпълняват модели за анализ, генеративни AI приложения и RAG канали с пълен контрол върху производителността и разпределението на ресурсите.

QAI-h1290FX включва подбрана селекция от предварително заредени AI инструменти като AnythingLLM, OpenWebUI и Ollama, което позволява бързо организиране на частни LLM работни процеси. Допълнителни приложения с изкуствен интелект, като Stable Diffusion, ComfyUI, n8n и vLLM, също се интегрират за разширяване на функционалността. Това позволява на потребителите бързо да изграждат локални AI платформи и да автоматизират работните процеси в сигурна, мащабируема и напълно контролирана среда.

„QAI-h1290FX отговаря на нарастващото търсене на локална AI инфраструктура“, каза Оливър Лам, продуктов мениджър в QNAP. „Искахме да елиминираме трудностите при изграждането на GPU работна станция, инсталирането на инструменти и конфигурирането на сложни среди. С QAI-h1290FX потребителите могат да внедряват и стартират своите AI модели веднага след изваждане от кутията – с пълен контрол върху данните си и без да разчитат на облака.“

Основни характеристики на QAI-h1290FX

• Изцяло флаш сторидж архитектура: Дванадесет U.2 NVMe/SATA SSD слота позволяват ултра бързи входо-изходни операции за високопроизводително изпълнение на AI модели и поточно предаване на данни.

• 16-ядрен AMD EPYC™ 7302P процесор: Осигурява 32 нишки изчислителна мощност от сървърен клас—идеален за AI анализи, виртуализация и тежки паралелни работни натоварвания.

• Архитектура готова за използване на GPU: Поддържа допълнителен GPU ускорител NVIDIA RTX PRO™ 6000 Blackwell Max-Q Workstation, включващ до 96 GB GPU памет и поддръжка за CUDA®, TensorRT™ и ускоряване на Transformer Engine – значително повишавайки производителността за локални LLM анализи, генериране на изображения и работни натоварвания за дълбоко обучение.

• Контейнеризирана AI среда и управление на ресурсите на GPU: Поддържа Docker и LXD с интуитивно разпределение на GPU. Потребителите могат бързо да стартират инструменти за изкуствен интелект чрез вградения център за приложения за изкуствен интелект и да задават GPU ресурси без конфигуриране от командния ред.

• Напълно локална инсталация без зависимост от облака: Изпълнявайте базирани на AI чат асистенти, машини за търсене на документи или бази от знания изцяло на място. Съхранявайте чувствителните данни на място, като същевременно ускорявате AI работните потоци.

• Високоскоростна мрежа и мащабируема архитектура: Предлага се с два 25GbE и два 2.5GbE порта. PCIe слотовете поддържат опционални 100GbE надстройки. Съвместим с разширителни кутии QNAP JBOD за широкомащабно съхранение на AI данни.

Най-подходящи сценарии на използване

• Вътрешни AI асистенти / Локални чат интерфейси
Внедрете разговорни AI интерфейси за търсене на знания, обучение на служители и въпроси и отговори за политики – изцяло под ваш контрол.

• Корпоративно RAG търсене
Възползвайте се от частни RAG канали, за да извършвате бързо, контекстуално търсене в договори, отчети и вътрешни документи.

• Генериране на изображения за творчески екипи
Използвайте Stable Diffusion или ComfyUI за AI работни процеси за проектиране и генериране на визуално съдържание.

• ИТ автоматизация с помощта на AI
Използвайте n8n за автоматизиране на задачи за анализ, генериране на съдържание или предупреждения – интегрирайки AI безпроблемно в n8n бизнес процесите.

С QAI-h1290FX, QNAP предоставя практичен, високопроизводителен път за внедряване на генеративен AI в рамките на предприятието. Независимо дали се използва в правни, HR, творчески или ИТ операции, той помага на екипите да се работят по-бързо, да поддържат съответствие и да поддържат пълен контрол върху своята AI стратегия.