SemanticAI offers a cloud-based user experience while also supporting on-premises deployment on your own servers.
This is particularly important for organizations that prioritize data security and do not want their data processed through cloud services such as OpenAI GPT or Google Gemini.
Specből másolva: "Lokális AI modellek támogatása
Egyes szervezetek számára kiemelt fontosságú, hogy maximális adatbiztonságot nyújtson a rendszer az AI modellek tekintetében is, így esetükben nem jöhet szóba cloud AI modellek (pl OpenAI GPT, Google Gemini, stb.) használata, ezért fontos, hogy lokálisan tudjunk nagy nyelvi modelleket (Large Language Model, LLM) futtatni. Ehhez egy speciális AI szerver szükséges, ami fejlett GPU-val és nagy mennyiségű GPU memóriával (kb 40 GB vagy több) van ellátva. Ez azért is hasznos, mert így össze tudjuk hasonlítani a különféle open source vagy open weight lokális LLM megoldásokat (pl Meta Llama, Google Gemma, Microsoft Phi, stb) valós feladatokban, és az ügyfeleknek a számukra legmegfelelőbb megoldást tudjuk kínálni. A fejlesztés és tesztelés során is szükségünk van erre az AI szerverre, mivel hagyományos laptopokon, személyi számítógépeken ezek az LLM-ek nem futtathatóak, illetve az OCR feladatok futtatásához is nagy teljesítményű szerverre van szükség."