AI seal, kus andmed ei tohi organisatsioonist lahkuda: avatud mudelid meie GPU-pilves Leedus (EL), Claude Amazon Bedrocki kaudu EL-i regioonis või mudel teie enda serverites. Teie andmete peal ei treenita, ligipääsud ja logid on teie käes, GDPR-i, NIS2 ja DORA nõuded on täidetud.
Vastab ISO 27001NIS2 DORA
Kliinikul on patsiendiandmed, advokaadibürool toimikud, liisingufirmal finantsaruannetega taotlused, tootjal joonised ja hinnakirjad. AI aitaks kõiki neid sama palju kui teisigi, kuid andmeid ei tohi avalikku teenusesse saata: seda keelavad kliendilepingud, valdkonna regulatsioon või lihtsalt terve mõistus. Tavaliselt lõpeb see nii, et töötajad kasutavad ChatGPT-d ikkagi isiklikelt kontodelt, ainult et keegi ei näe ega kontrolli seda.
Privaatne AI lahendab selle dilemma arhitektuuriga, mitte lubadustega. Käitame mudeli seal, kus teie andmed tohivad olla: avatud mudelid (Llama, Mistral, Qwen, Gemma) meie enda GPU-pilves Leedu andmekeskuses (EL), Claude Amazon Bedrocki kaudu EL-i regioonis Frankfurdis teie AWS-i kontol või, kui on vaja täielikku isolatsiooni, teie enda serverites. Teie andmeid ei kasutata mudelite treenimiseks mitte kunagi, ligipääsu juhivad teie Microsoft 365 keskkonna identiteedid ning iga päring ja agendi tegevus kirjutatakse logisse, mida saate audiitorile näidata.
Valime selle järgi, kus teie andmed tohivad olla ja millist kvaliteeti ülesanne nõuab. Sageli kombineeritakse kaks varianti.
Llama, Mistral, Qwen või Gemma töötavad meie Leedu andmekeskuse (EL) NVIDIA GPU-serverites, mis on pühendatud teie keskkonnale. Andmed jäävad EL-i ja hind on fikseeritud GPU kohta, mitte päringu kohta. Sobib dokumendipõhistele assistentidele, klassifitseerimiseks, kokkuvõteteks ja dokumendituvastuseks.
Kui on vaja kõige tugevamat dokumendianalüüsi ja agentide kvaliteeti: Claude’i mudelid töötavad Amazon Bedrockis Frankfurdi regioonis teie AWS-i kontol, teie andmeid ei kasutata treenimiseks, võtmed on teie ja logid asuvad CloudTrailis. Andmed jäävad EL-i ning maksate kasutuse järgi.
Täielikult isoleeritud keskkond ilma internetita: GPU-server teie ruumides, mudel ja vektorandmebaas selle sees. Seda on vaja harva, peamiselt kaitsevaldkonnas, kriitilises taristus või lepinguga piiratud andmete puhul, kuid kui on vaja, siis muud teed pole. Kavandame, juurutame ja haldame seda kaugühenduse kaudu teie VPN-i kaudu.
Samad lahendused mis avalikes platvormides, ainult et mudel ja andmed jäävad teie kontrolli alla.
RAG-otsing lepingutes, juhendites, toimikutes või kirjetes, koos viitega allikale ja teie olemasolevaid ligipääsuõigusi arvestades.
Arved, taotlused, KYC-dokumendid ja väljavõtted jaotab väljadeks privaatne mudel, neid välismaistesse OCR-teenustesse saatmata.
Mitmeastmelised ülesanded teie süsteemides vähimate vajalike õigustega, kinnitusetappidega ja täieliku tegevuslogiga.
E-kirjad, kaebused, intsidendid ja tagasiside sorditakse ja suunatakse teie reeglite järgi ning tundlikud andmed ei lahku.
Kirjete, toimikute, aruannete ja koosolekute kokkuvõtted ning vastuste ja lepingute mustandid teie mallide põhjal.
Hübriid: privaatne mudel eemaldab isikuandmed ja Claude’ile või ChatGPT-le jõuab ainult anonümiseeritud tekst.
Programmeerimisassistent, mis töötab teie koodibaasiga, kui kood ei tohi ettevõttest lahkuda.
Vektorandmebaas ja semantiline otsing miljonites dokumentides, ühendatud SharePointi, teie ERP-i või dokumendihaldussüsteemiga.
Lühike võrdlus, millest vestluse alustame.
| ChatGPT / Copilot (avalikud teenused) | Claude Amazon Bedrock EL-i kaudu | Avatud mudelid MDP CLOUDi GPU-pilves | |
|---|---|---|---|
Kus mudel töötab | tarnija platvormil (OpenAI, Microsoft) | teie AWS-i kontol, Frankfurdi regioon | meie andmekeskuses Leedus (EL), teie pühendatud keskkonnas |
Andmete kasutamine treenimiseks | ei (ärikavades ja API-s) | ei | ei |
Andmete asukoht | EL-i salvestus olenevalt paketist | EL (Saksamaa) | Leedu |
Mudeli kvaliteet | kõrgeim | kõrgeim | piisav enamikuks ärivajadusteks |
Maksumus | kasutaja kohta või kasutuspõhine | kasutuse järgi | fikseeritud GPU kohta, sõltumatu päringute arvust |
Täielik isolatsioon (ilma internetita) | |||
Teie võtmed ja logid | osaliselt (haldamislogid) | ||
Sobib reguleeritud valdkondadele | piiratult, olenevalt andmekategooriast |
Andmete hindamisest hallatud keskkonnani 4–8 nädalaga.
Koostame koos nimekirja andmetest, mis AI-sse jõuavad, nende kategooriatest GDPR-i ja teie valdkonna reeglite järgi ning sellest, kellel võib neile ligipääs olla. Sellest selgub, kas piisab Bedrockist EL-i regioonis, kas on vaja mudelit Leedus (EL) või täielikku isolatsiooni.
Valime mudeli ülesande ja keele järgi (teie keeles testime mitut), kavandame vektorandmebaasi, ühendused SharePointi, teie ERP-i või dokumendihaldussüsteemiga ning ligipääsumudeli teie Microsoft 365 keskkonna identiteetide põhjal.
Ehitame pühendatud GPU keskkonna, lülitame sisse logimise ja seire, laadime dokumendid ning testime koos teie töötajatega varasemate juhtumitega, kuni vastuste kvaliteet ja allikate täpsus vastavad kokkulepitud lävele.
Haldame seda nagu ülejäänud teie taristut: uuendame mudeleid ja komponente, jälgime jõudlust ja kulu, teeme varukoopiaid ning vaatame üle logisid. Kui esimene lahendus töötab, lisame samasse keskkonda järgmised.
Kui teil on oma meeskond ja soovite mudeleid ise käitada, rendime NVIDIA GPU-servereid Leedu andmekeskuses (EL), koos halduse ja varukoopiatega.
Üldiste loominguliste ülesannete puhul on suured kommertsmudelid endiselt ees, seetõttu pakume neil juhtudel Claude’i Bedrocki kaudu EL-i regioonis. Tüüpiliste ärivajaduste (otsing teie enda dokumentides koos allikaga, klassifitseerimine, kokkuvõtted, dokumendituvastus) jaoks piisab avatud mudelite kvaliteedist ja kontrollime seda teie dokumentidega tehtud testidega enne, kui lepingu sõlmite.
Uusimad avatud mudelid mõistavad ja kirjutavad enamikus Euroopa keeltes hästi, kuid need erinevad üksteisest, mistõttu testime keelt teie enda tekstidega ja valime sobivaima. Dokumendituvastuseks kasutame OCR-i, mis tuleb toime täpitähtedega.
Privaatse mudeli maksumus on fikseeritud GPU keskkonna kohta ega sõltu päringute arvust, mistõttu on see intensiivse kasutuse korral sageli odavam kui litsents igale kasutajale. Bedrocki eest arveldatakse kasutuse järgi. Pärast esimest vestlust koostame arvutuse teie eeldatava koormuse põhjal.
Jah, ja see ongi peamine põhjus privaatse AI valimiseks: andmed jäävad EL-i, neid ei kasutata treenimiseks, ligipääs on piiratud, tegevused logitakse ning taristut hallatakse kooskõlas ISO 27001 nõuetega. Aitame ette valmistada ka auditi dokumentatsiooni: andmevoo kirjelduse, riskihindamise ja andmetöötluslepingu.
Jah, ja soovitame seda: üks protsess, üks dokumendikomplekt, üks kasutajate rühm. Esimene lahendus võtab tavaliselt 4–8 nädalat, seejärel lisanduvad teised samasse keskkonda ilma uue taristuta.
Korduvad ülesanded, mida täna teeb inimene, võivad töötada ise: täpsemalt ja ilma ootamiseta.
Kliendiarved saabuvad Outlooki telefonifotode ja PDF-failidena, pangaväljavõtted sisestatakse käsitsi ja kuu lõpetamine algab meeldetuletuskirjadega.
Broneeringud tulevad Messengeri kaudu, arvustused Google Business Profile’i ja Wolti, müük on CompuCashis ning hankijate arved jõuavad Directosse…
Professionaalsete teenuste ettevõttes on aeg toode ja suur osa sellest kulub Outlooki päringutele, pakkumistele, HubSpoti või Pipedrive’i…
Seda teenust osutavad spetsialistid, kellel on kehtivad rahvusvahelised sertifikaadid. Nende oskusi kinnitavad sõltumatud organisatsioonid, mitte meie.
AI-süsteemid juurutatakse kaitsega andmeleke ja mudeli väärkasutuse vastu.
GPU-taristut ja AI töökoormusi käitatakse NVIDIA tavade järgi.
AI turvaprogrammi ja selle kontrolle juhitakse ISACA metoodika järgi.
Vastame 1 tööpäeva jooksul
