agentickz
Všetky case studies

Lokálny AI model na vlastnom serveri firmy

IT distribútor, približne 150 zamestnancov

Celá AI zostava na jednom serveri vo firme: lokálny jazykový model, jednotná AI brána, webové rozhranie s firemným prihlásením a MCP servery nad katalógom a internými dokumentmi.

Dokončené

96 GB

GPU vo vlastnej serverovni

Zadanie

Využívať AI nad internými cenami, maržami a dokumentmi tak, aby citlivé dáta neopustili firmu, a naučiť vlastný tím celú zostavu spravovať.

Čo sme postavili

  • Lokálny jazykový model na vlastnom GPU serveri v serverovni firmy, bez prístupu z internetu
  • Jednotná AI brána pre všetky aplikácie. Záložný cloudový model len pre verejné katalógové dáta, interné dokumenty firmu nikdy neopustia
  • Webové rozhranie pre zamestnancov s firemným prihlásením a prístupom podľa skupín
  • MCP servery nad produktovým katalógom a internými dokumentmi, odpovede s odkazom na zdroj
  • Slepé porovnávanie modelov a testovacie sady, podľa ktorých sa model vyberal
  • Šifrované disky, vypnuté ukladanie promptov a verzie modelu s okamžitým návratom
  • Spolupráca formou mentoringu: tím klienta zostavu stavia s nami a spravuje ju sám

Výsledky

  • Business asistent nad katalógom a procesný asistent nad internými dokumentmi
  • Celá zostava v jednom balíku s príručkou na prevádzku, zopakovateľná aj na ďalšom serveri

Technológie

  • Lokálny jazykový model
  • GPU server
  • Docker
  • MCP
  • PostgreSQL
  • Firemné SSO

Súvisiace služby

Potrebujete niečo podobné?

Opíšte nám, čo vás brzdí. Na nezáväznej konzultácii vám povieme, ako by sme to postavili a koľko by to stálo.

Konzultovať projekt

Ďalšie case studies