Detectează citările inventate de AI din dosare juridice

De ce apar citări false în instanțe?

Creșterea utilizării AI în redactarea actelor juridice aduce un risc real: modelele de limbaj au tendința de a „halucina”, adică de a inventa referințe care nu există. CiteProof este o platformă online creată tocmai pentru a detecta aceste citări false înainte ca ele să ajungă în dosarele de instanță.

Problema nu e nouă. Avocații folosesc asistenți AI de ani de zile, iar consecințele se văd deja în practică.

GPT-4 a trecut examenul de bar în 2023, dar referințele sale nu sunt garantate ca fiind corecte. Problema nu se limitează la OpenAI.

Claude, dezvoltat de Anthropic, a fost implicat într-un caz similar anul trecut, când un document al unui birou de avocați conținea două citări atribuite greșit modelului.

Cum verifică CiteProof existența citărilor?

Echipa juridică a acuzat modelul, deși nimeni nu a făcut nicio verificare manuală înainte de depunere.

Citările fictive au provocat înfrângeri juridice reale.

În Georgia, o decizie a fost anulată după ce o decizie generată de AI conținea referințe inventate. Aceste incidente subliniază decalajul dintre generarea impreciză a textului de către AI și cerința sistemului juridic de precizie absolută.

Ce se întâmplă cu datele tale?

CiteProof se poziționează ca un instrument de verificare factuală care depășește verificatorii umani, care adesea rată erorile.

Platforma oferă două niveluri de servicii. Utilizatorii gratuit pot verifica o singură citare sau articol de lege. Abonații de plată primesc scanări detaliate, rapoarte amănunțite, verificare a citărilor și scanări în masă.

O funcție interesantă este că CiteProof recunoaște că o parte din dezvoltare a fost făcută cu tehnici de „vibe-coding”, dar procesul de verificare în sine nu folosește AI. „Nu poți detecta halucinații AI cu altă ghicire AI”, explică un purtător de cuvânt al companiei.

„Asta e principiul de bază al CiteProof.”

De ce continuăm să folosim AI dacă e nedeșteptabil?

Sub capotă, niciun model de limbaj mare sau model probabilistic nu este implicat. Interogările efectuează căutări deterministe direct în registrele publice ale instanțelor pentru a confirma dacă referințele există.

CiteProof nu evaluează calitatea argumentelor juridice; scopul său unic este să verifice existența citărilor.

Compania susține că doar șirurile de citări extrase părăsesc serverele, intrând în baza de date CourtListener pentru a verifica autenticitatea. Toată procesarea are loc pe servere din SUA, iar nicio date nu este trimisă către niciun LLM.

Cât costă serviciul?

Întrebarea rămâne: de ce să împingem adoptarea AI dacă nu se poate fiu încredințat?

CiteProof „Avocații și asociatii folosesc deja AI pentru a accelera cercetarea și redactarea, și această adoptare nu se va opri”, a declarat un reprezentant.

„CiteProof nu promovează utilizarea orbă a AI — acționează ca o barieră obiectivă, non-AI, pentru a se asigura că citările fabricate sunt primate înainte să ajungă într-un dosar.”

Prețurile variază în funcție de volum. Un singur memoriu costă 49 de dolari dacă nu se alege varianta gratuită limitată. Sunt disponibile pachete cu reducere: 199 de dolari pentru cinci verificări, până la un abonament lunar de 499 de dolari pentru 200 de verificări, vizat la birourile de avocați care se bazează mult pe AI pentru argumentare.