In een opvallende ontwikkeling binnen een internationale faillissementszaak heeft het gerenommeerde Amerikaanse advocatenkantoor Sullivan & Cromwell toegegeven dat een belangrijk processtuk fouten bevatte door zogenoemde AI-‘hallucinaties’. De kwestie speelt in een complexe zaak rond de afwikkeling van een groot internationaal concern en zet de rol van kunstmatige intelligentie binnen juridische trajecten opnieuw scherp op de kaart.
Dure advocaten, goedkope fouten
Het kantoor, waar partners tarieven van ruim 2.000 dollar per uur rekenen, moest zich verontschuldigen bij de federale rechtbank in New York. In een brief aan rechter Martin Glenn erkende topadvocaat Andrew Dietderich dat er fouten waren gemaakt in een document dat begin april werd ingediend. Zo bleken verwijzingen naar de Amerikaanse faillissementswet onjuist en werden rechtszaken verkeerd geciteerd.
Volgens Dietderich waren interne regels rond het gebruik van AI niet nageleefd. Het kantoor onderzoekt inmiddels of extra controles en trainingen nodig zijn om herhaling te voorkomen. Wie precies verantwoordelijk is voor het document, blijft onduidelijk.
Faillissementszaak met internationale dimensie
De zaak zelf draait om de afwikkeling van Prince Group, een onderneming die in verband wordt gebracht met grootschalige fraude en witwaspraktijken. De liquidatoren, aangesteld op de Britse Maagdeneilanden, proberen via de Amerikaanse rechter erkenning te krijgen om wereldwijd tegoeden veilig te stellen voor schuldeisers en slachtoffers.
De achtergrond van de zaak is allesbehalve licht: Amerikaanse autoriteiten beschuldigen de eigenaar van het bedrijf van het runnen van frauduleuze operaties waarbij miljarden dollars zouden zijn buitgemaakt. Tegelijk loopt er een procedure om enorme hoeveelheden cryptovaluta in beslag te nemen.
Concurrent ontdekt de missers
Opvallend genoeg kwamen de fouten niet intern aan het licht, maar werden ze gesignaleerd door een rivaliserend advocatenkantoor. Dat wees erop dat bepaalde geciteerde uitspraken simpelweg niet bestonden of verkeerd waren weergegeven. In sommige gevallen bleken zelfs complete verwijzingen naar niet-bestaande zaken te zijn opgenomen.
Het incident is pijnlijk voor een kantoor dat bekendstaat om zijn grondige aanpak en betrokkenheid bij grote faillissementszaken, waaronder die van cryptobeurs FTX.
AI rukt op, maar niet zonder risico
De blunder staat niet op zichzelf. Steeds meer advocatenkantoren experimenteren met AI-tools om tijdrovend onderzoek te versnellen. Tegelijkertijd groeit de lijst met incidenten waarbij dergelijke systemen fouten introduceren die niet worden gecontroleerd.
Sullivan & Cromwell benadrukt dat het kantoor normaal gesproken strikte richtlijnen hanteert: “vertrouw niets en controleer alles”. Juist dat laatste ging hier mis. Het kantoor erkent daarnaast dat er ook in andere stukken kleine fouten zijn gevonden, al zouden die door menselijke vergissingen zijn veroorzaakt.
De affaire onderstreept een groeiend spanningsveld in de juridische wereld: efficiëntie versus betrouwbaarheid. Want zelfs in zaken waar miljarden op het spel staan, blijkt een fout soms verrassend menselijk — of juist verrassend kunstmatig.