EU AI Act usklađenost
Uredba (EU) 2024/1689 o umjetnoj inteligenciji
O čemu se radi
EU AI Act (Uredba 2024/1689) je europski zakon koji postavlja pravila za razvoj i korištenje sustava umjetne inteligencije. LexBox je klasificiran kao sustav visokog rizika jer pomaže u pravnom istraživanju i tumačenju prava.
To znači da moramo zadovoljiti strože zahtjeve za sigurnost, transparentnost i kvalitetu. Evo kako to radimo:
Implementirane mjere
Članak 9
Sustav upravljanja rizicima
12 identificiranih rizika s procjenom vjerojatnosti i utjecaja. Mjere za sprječavanje halucinacija, pristranosti, prekomjernog oslanjanja na AI i zlouporabe. Kvartalni pregled i ažuriranje.
Članak 11 + Prilog IV
Tehnička dokumentacija
Dokumentirana arhitektura sustava, RAG pipeline, embedding modeli, performanse i ograničenja. 9 sekcija prema zahtjevima Priloga IV.
Članak 10
Upravljanje podacima
6 pravnih izvora (sudska praksa, zakoni, CJEU, ECHR, EU-Lex, USRH) s kontrolama kvalitete, analizom pristranosti i GDPR-usklađenom obradom osobnih podataka.
Članak 13
Transparentnost
Korisnici vide izvore na temelju kojih su generirani odgovori. Dokumentirane mogućnosti sustava, performanse (retrieval score), poznata ograničenja i rizici za temeljna prava.
Članak 14
Ljudski nadzor
Sustav je dizajniran za rad pod ljudskim nadzorom. AI-generirani sadržaj je jasno označen. Korisnik uvijek donosi konačnu odluku o korištenju sadržaja.
Dodatne mjere
Sustav upravljanja kvalitetom
Članak 17. Definirani procesi razvoja, testiranja i upravljanja promjenama. Pravni benchmark s 20 pitanja iz 12 područja.
Obavijest korisnika
Članak 50. AI disclaimer na 5 mjesta u aplikaciji. Svaki odgovor jasno označen kao AI-generirani sadržaj.
GDPR usklađenost
Podaci pohranjeni u EU (Hetzner, Njemačka). Enkripcija u prijenosu i mirovanju. Izolacija korisničkih podataka. Pravo na brisanje.
Revizijski trag
Strojno čitljivo AI označavanje (SSE, PDF/DOCX provenance). Audit log za svaki upit s model_id i source_ids.
Rokovi
Faza 1 i 2 - implementirano
AI disclaimeri, ToS, audit log, dokumentacija, upravljanje rizicima
Faza 3 - u tijeku
Tehničke mjere: prompt injection zaštita, graceful degradation, verifikacija citata
Faza 4 - planirano
Samoprocjena (Prilog VI), EU Deklaracija o sukladnosti, CE oznaka, registracija u EU bazi
Za detaljne informacije o tehničkoj dokumentaciji, sustavu upravljanja rizicima ili bilo kojem aspektu EU AI Act usklađenosti, obratite se na info@lexbox.ai.