Gervigreind í reynd: Hver ber ábyrgð á mistökum sem gervigreind veldur?

1. Inngangur: Hvað er ábyrgð gervigreindar og hvers vegna er hún mikilvæg?

Þegar gervigreind gerir mistök geta ýmsir aðilar borið ábyrgð: verktaki gervigreindar, notendur, framleiðendur eða þjónustuaðilar. Í þessari handbók munt þú læra hver ber ábyrgð hvenær, hvaða lög gilda og hvernig þú getur takmarkað ábyrgðaráhættu.

Gervigreind (AI) gegnir stærra hlutverki í samfélagi okkar en nokkru sinni fyrr. Þessi tækni hefur ekki aðeins marga kosti í för með sér heldur einnig lagalegar áskoranir, sérstaklega á sviði reglugerða, ábyrgðar og siðferðilegra sjónarmiða. Gervigreindarkerfi eru í auknum mæli að taka við verkefnum frá mönnum, allt frá læknisfræðilegum greiningum til fjárhagslegra ákvarðana. En hvað gerist ef gervigreindarkerfi veldur tjóni? Hver ber ábyrgð á afleiðingunum? Eitt helsta áhyggjuefnið varðandi notkun gervigreindar í heilbrigðisþjónustu er hver ber ábyrgð á hugsanlegum mistökum. Notkun gervigreindar í heilbrigðisþjónustu vekur upp lagalegar spurningar um hver ber ábyrgð á rangri greiningu eða rangri meðferð.

Þessi spurning verður sífellt mikilvægari þar sem gervigreind er að umbreyta geirum eins og heilbrigðisþjónustu, samgöngum og fjármálageiranum. Þótt gervigreind bjóði upp á gríðarleg tækifæri, þá felur hún einnig í sér nýja ábyrgðaráhættu sem ögrar núverandi lagalegum ramma. Lagalegt samhengi ábyrgðar vegna gervigreindar er flókið og krefst skýringar á gildandi löggjöf. Evrópusambandið vinnur að því að samræma ábyrgð. lög fyrir gervigreindartækni, þar sem Evrópuþingið gegnir mikilvægu hlutverki sem frumkvöðull nýrra reglugerða.

Í þessari grein ræðum við allt lagalegt landslag sem lýtur að ábyrgð gervigreindar, allt frá samningsbundinni ábyrgð til vöruábyrgðar, hagnýt dæmi úr hollenskri dómaframkvæmd og raunveruleg skref til að takmarka ábyrgðaráhættu þína. Þrátt fyrir hraða þróun er notkun gervigreindar í mörgum geirum enn á frumstigi, sem þýðir að reglugerðir og framkvæmd eru enn í þróun.

2. Að skilja ábyrgð gervigreindar: Lykilhugtök og skilgreiningar

2.1 Lykilskilgreiningar

Ábyrgð gervigreindar er lagaleg ábyrgð á tjóni sem hlýst af notkun gervigreindarkerfa. Gervigreind er lagalega skilgreind sem kerfi sem túlka gögn sjálfkrafa, læra af þeim gögnum og framkvæma síðan ákvarðanir eða aðgerðir án beinnar stjórnunar manna. Hugtakið „gallleiki“ fyrir gervigreindarvörur verður að fela í sér möguleikann á að vara geti bilað eftir sölu vegna sjálfnámseiginleika. Vöruábyrgð verður nú einnig að taka mið af sjálfnámsgetu gervigreindar við mat á göllum. Núverandi tilskipun um vöruábyrgð frá 1985 er ekki fullnægjandi fyrir gervigreindarvörur.

Samheiti og skyld hugtök:

• Strangri ábyrgðábyrgð án sönnunar um sök
• Vöruábyrgðábyrgð framleiðenda á gölluðum vörum
• Samningsábyrgðtjón sem hlýst af samningssambandi
• Eigindleg ábyrgðábyrgð byggð á gæðum vörunnar eða þjónustunnar sem veitt er

Samningssamningar ákvarða að miklu leyti dreifingu ábyrgðar og skuldbindinga milli aðila. Möguleikarnir á að fá skaðabætur vegna samningsbundinnar ábyrgðar eru mjög háðir hlutverki gervigreindar.

Pro þjórfé: Skiljið hvað gervigreind þýðir lagalega áður en þið skoðið ábyrgð. Gervigreindarkerfi eru frábrugðin hefðbundnum hugbúnaði hvað varðar sjálfnámsgetu sína og sjálfstæða ákvarðanatöku.

2.2 Tengsl milli hugtaka

Ábyrgð gervigreindar tengist ýmsum lagalegum hugtökum og löggjöf:

Einfalt tengslakort:

Villa í gervigreind → tjón verður → orsakatengsl → ábyrgð er staðfest → bætur fylgja í kjölfarið
Lög um gervigreind → öryggisskyldur → vanefndir → aukin ábyrgð
Ábyrgð á vöru → gallaða vöru → ábyrgð framleiðanda → sjálfvirkar bætur

Borgaralögin (6. gr. 162 BW) fjalla um skaðabótaskyldu, en tilskipunin um ábyrgð á vörum á sérstaklega við um gallaðar vörur. Nýju lögin um gervigreind bæta við viðbótarskyldum fyrir áhættusöm gervigreindarkerfi. Þann 28. september 2022 kynnti framkvæmdastjórn Evrópusambandsins ný drög að tilskipunum um ábyrgð vegna gervigreindar. Nýju tilskipanirnar krefjast þess að framleiðendur verði auðveldlegar ábyrgir fyrir tjóni af völdum gervigreindar.

3. Hvers vegna ábyrgð gervigreindar er mikilvæg í stafrænu hagkerfi

Skýrar reglur um ábyrgð á gervigreind eru nauðsynlegar fyrir almenna viðurkenningu og ábyrga nýsköpun. Án skýrleika geta þolendur mistaka sem tengjast gervigreind setið án úrræða, en forritarar upplifa óvissu um lagalega áhættu sem þeir standa frammi fyrir. Skortur á skýrri lagalegri ábyrgð á gervigreind leiðir til lagalegrar óvissu, sem leiðir til þess að þolendur geta hugsanlega ekki fengið bætur og fyrirtæki eru treg til að skapa nýjungar. Evrópusambandið vinnur að því að samræma ábyrgðarlöggjöf fyrir gervigreindartækni.

Raunhæfur ávinningur af skýrum lagalegum ramma:

• Vernd fyrir fórnarlömb gervigreindarvilla
• Hvatning til öruggrar þróunar nýrrar tækni
• Traust meðal neytenda og fyrirtækja
• Jafnréttisskilyrði fyrir gervigreindarforritara

Samkvæmt rannsókn framkvæmdastjórnar Evrópusambandsins getur óljós ábyrgð á gervigreind hægt á nýsköpun og fjöldi skaðabótakrafna vegna gervigreindar tvöfaldaðist á milli áranna 2020 og 2022, sérstaklega í fjármálageiranum og heilbrigðisgeiranum. Þegar aðili verður fyrir tjóni vegna þess að gervigreindarkerfi gerir mistök getur það leitt til flókinna skaðabótakrafna og málaferla.

Tölfræðileg gögn:

• 60% fyrirtækja hika við að innleiða gervigreind vegna ábyrgðaráhættu og hagnýt notkun gervigreindar vekur upp frekari lagaleg álitaefni.
• Villur í læknisfræðilegri gervigreind eru orsök 40% allra krafna sem tengjast gervigreind
• Gervigreindarlög ESB eiga við um 15% allra gervigreindarforrita (áhættukerfi) og fyrirtæki eru skyldug til að fylgja þessum reglugerðum.

Notendur geta búist við að gervigreindarkerfi virki örugglega og áreiðanlega, sambærilegt við afköst manna eða annarra tækni. Engu að síður er hætta á að gervigreind geri mistök með miklum áhrifum, sem undirstrikar mikilvægi skýrra reglna um ábyrgð.

4. Yfirlit yfir ábyrgðaraðila og löggerninga

Viðeigandi löggjöf eftir aðstæðum:

• Medical AILög um gervigreind + reglugerðir um læknisfræðilega ábyrgð; viðeigandi lög og reglugerðir eins og lög um öryggi neta og upplýsingakerfa (Wbni) gilda
• Sjálfstæð ökutækiUmferðarlög + ábyrgð á vöru
• Fjárhagsleg gervigreindReglur um Wft + reikniritstjórnun
• Almenn gervigreindarforritBorgaraleg lög + Lög um gervigreind

Við flokkun gervigreindarkerfa vaknar sú spurning hvort hugbúnaður sem byggir á gervigreind geti talist lausafjármunir, miðað við óáþreifanlegan eðli hans og flókna virkni.

Lögfræðiþjónusta á sviði gervigreindar fellur í auknum mæli undir vaxandi svið gervigreindarlaga.

5. Gervigreindarkerfi: Tegundir, virkni og mikilvægi fyrir ábyrgð

Gervigreindarkerfi eru ein áhrifamesta nýja tækni samtímans og gegna sífellt mikilvægara hlutverki í fjölbreyttum geirum. Þessi kerfi eru allt frá skapandi gervigreind, sem getur sjálfstætt búið til texta, myndir eða annað efni, til óáþreifanlegra hugbúnaðar sem framkvæmir flóknar greiningar eða tekur ákvarðanir byggðar á miklu magni gagna. Það sem einkennir þessi kerfi er geta þeirra til að læra af gögnum og starfa sjálfstætt, oft án beinnar stjórnunar manna.

Gervigreindarkerfi eru mjög mikilvæg fyrir ábyrgð þar sem þau geta valdið tjóni á einstakan hátt. Því hefur framkvæmdastjórn Evrópusambandsins lagt til tilskipun um ábyrgð vegna gervigreindar, sem fjallar sérstaklega um ábyrgð vegna tjóns af völdum gervigreindarkerfa. Þangað til þessi nýja löggjöf tekur gildi verðum við að reiða okkur á gildandi landslöggjöf og tilskipunina um ábyrgð á vörum, sem upphaflega var hönnuð fyrir áþreifanlegar vörur en er nú einnig beitt á óáþreifanlegan hugbúnað og gervigreindarforrit.

Ein af stærstu áskorununum í ábyrgð vegna gervigreindar er að sanna orsakasamhengi milli gervigreindarkerfisins og tjónsins. Vegna sjálfnámsgetu gervigreindarkerfa og oft takmarkaðs gagnsæis er ekki alltaf ljóst hvort villa eða galli megi rekja beint til kerfisins. Þetta gerir það erfitt að ákvarða hvort vara sé gölluð í skilningi tilskipunarinnar um vöruábyrgð, sérstaklega þegar um er að ræða afkastamikla gervigreind og aðrar gerðir óáþreifanlegra hugbúnaðar.

Ábyrgð á gölluðum vörum er enn mikilvæg meginregla. Samkvæmt tilskipuninni um ábyrgð á vörum verður vara að uppfylla öryggisstaðla sem búast má við. Hins vegar er ekki alltaf ljóst hverjar þessar væntingar eru nákvæmlega þegar kemur að gervigreindarkerfum, sérstaklega ef kerfið heldur áfram að þróast eftir að það hefur verið tekið í notkun. Það hvernig gervigreindarkerfið er hannað, prófað og viðhaldið, notkunarleiðbeiningar og viðvaranir sem gefnar eru og hversu vel notendur eru meðvitaðir um áhættuna eru allt mikilvægir þættir við mat á ábyrgð.

Dómaframkvæmd Evrópudómstólsins og Hæstaréttar um vöruábyrgð veitir einhverjar leiðbeiningar, en beiting hennar á gervigreindarkerfi hefur ekki enn verið að fullu staðfest. Núverandi tilskipanir og innlend löggjöf bregðast stundum við einstökum áhættum sem fylgja gervigreind, sem skapar þörf fyrir nýja löggjöf og skýra dómaframkvæmd.

Í stuttu máli býður þróun og notkun gervigreindarkerfa upp á gríðarleg tækifæri en einnig nýjar lagalegar áskoranir. Það er nauðsynlegt að lagaumgjörðin fylgi tækniframförum svo að hægt sé að setja reglur um ábyrgð á tjóni af völdum gervigreindarkerfa á sanngjarnan og skilvirkan hátt. Þangað til er mikilvægt fyrir fyrirtæki og notendur gervigreindar að vera vakandi fyrir því hvernig þeir nota gervigreindarkerfi og að stjórna áhættunni vandlega.

6. Leiðbeiningar skref fyrir skref til að ákvarða ábyrgð gervigreindar

Skref 1: Greinið villuna og skemmdirnar í gervigreindinni

Áður en þú byrjar skaltu ákvarða:

• Hvaða ákveðin ákvörðun eða útkoma gervigreindar olli skaða?
• Er um beint fjárhagslegt, líkamlegt eða óefnislegt tjón að ræða?
• Hvenær varð tjónið og við hvaða aðstæður?

Gátlisti til að ákvarða tjón: 

□ Skjalfesta ákvörðun gervigreindar eða rangar niðurstöður

□ Safnaðu sönnunargögnum um tjónið sem varð

□ Setjið upp tímalínu atburða

□ Greinið alla aðila sem hlut eiga að máli

□ Varðveita viðeigandi samninga og notkunarskilmála

Dæmi um atburðarás: Gervigreind í ráðningum hafnar umsækjendum ranglega á grundvelli mismununarviðmiða, sem veldur atvinnuleitendum fjárhagslegu tjóni.

Skref 2: Ákvarða viðeigandi form ábyrgðar

Veldu samningsbundna ábyrgð þegar:

• Samningsbundið samband er á milli aðila
• Birgir gervigreindar hefur veitt sérstakar ábyrgðir
• Notkun fellur innan samþykktra marka

Veldu vöruábyrgð þegar:

• Gervigreindarkerfið fellur undir skilgreininguna á „vöru“
• Það er galli í markaðssetningunni
• Tjónið varð vegna gallaðrar vöru

Veldu skaðabótaskyldu þegar:

• Ekkert samningssamband er til staðar
• Notandi gervigreindar sýndi gáleysi
• Brot á umönnunarskyldu var framið

Ráðlagðir lagalegir gerningar:

• Ráðfærðu þig við sérhæfða lögfræðinga í gervigreind
• Notið gátlista fyrir fylgni við gervigreindarlög
• Ráðfærðu þig við tryggingafélög um tryggingavernd

Skref 3: Safnaðu sönnunargögnum og staðfestu ábyrgð

Söfnun sönnunargagna vegna ábyrgðar á gervigreind:

• Tæknileg sönnunargögn: skrár, skjölun um reiknirit, þjálfunargögn
• Sönnunargögn fyrir ferlinu: notendaleiðbeiningar, framkvæmdarferli
• Sönnunargögn um tjónfjárhagsleg áhrif, læknisfræðilegar skýrslur, álit sérfræðinga

Mælikvarðar fyrir vel heppnaðar skaðabótakröfur:

• Heildstæð skjöl (að minnsta kosti 80% af viðeigandi gögnum)
• Styrkur orsakatengsla (vísindalega rökstudd)
• Skýrleiki umfangs tjóns (magnbundin áhrif)

Orsakatengslin milli mistaka í gervigreind og tjóns eru lykilatriði. Með flóknum gervigreindarkerfum („svartur kassi gervigreindar“) getur þetta verið tæknilega krefjandi, en tillaga um ábyrgðartilskipun gervigreindar var ætluð til að kynna öfuga sönnunarbyrði fyrir þetta.

7. Algeng mistök í ábyrgð gervigreindar

Villa 1: Óljósar samningsákvæði um notkun gervigreindar Margir samningar innihalda ekki sérstakar ákvæði um ábyrgð gervigreindar, sem skapar óvissu um hver ber ábyrgð ef mistök verða.

Mistök 2: Ófullnægjandi skjölun á ákvörðunum um gervigreind
Fyrirtæki vanrækja oft að halda fullnægjandi skrár og ákvarðanatökuferla, sem gerir það erfitt að sanna eða hrekja ábyrgð.

Mistök 3: Að hunsa skyldur ESB-laga um gervigreind Fyrirtæki sem vinna með áhættusöm gervigreindarkerfi vanrækja oft nýju skyldurnar varðandi gagnsæi, skjölun og áhættustjórnun sem kveðið er á um í lögum um gervigreind.

Pro þjórfé: Forðist þessi mistök með því að koma á skýrri stjórnun gervigreindar fyrirfram, breyta samningum með skýrum ákvæðum um gervigreind og skipuleggja fyrirbyggjandi samræmi við lög um gervigreind. Fjárfestið í góðri skjölun og rekjanleika ákvarðana um gervigreind.

8. Hagnýtt dæmi: Villa í læknisfræðilegri gervigreind á hollensku sjúkrahúsi

Málsrannsókn: „Sjúkrahúsið X kom sér undan ábyrgð vegna greiningarvilla í gervigreind með viðeigandi samningssamningum“

Upphafsstaða: Gervigreindarkerfi í geislalækningum á hollensku sjúkrahúsi missti af krabbameinsgreiningu á snemmbúnu stigi, sem leiddi til tafa á meðferð sjúklings. Sjúklingurinn krafðist skaðabóta frá bæði sjúkrahúsinu og birgja gervigreindarinnar.

Skref sem tekin voru:

1. SamningsgreiningSjúkrahúsið hafði sérstaklega kveðið á um að gervigreindin skyldi eingöngu notuð í stuðningsskyni.
2. Sönnunargögn fyrir ferlinuGögn sýndu að geislalæknir tók lokaákvörðunina
3. Tæknileg rannsóknBirgir gervigreindar sannaði að kerfið virkaði innan forskrifta
4. LagastefnaÁfrýjun á hefðbundnum læknisfræðilegum verklagsreglum og mannlegri ábyrgð

Lokaúrslit:

• ÁbyrgðAð lokum úthlutað til meðferðargeislafræðings
• bætur: Tryggt af sjúkratryggingu
• Samningsbundin áhrifBirgir gervigreindar undanþeginn kröfum
• Hagræðing ferliBættar samskiptareglur fyrir gervigreindarstuðning

Lögfræðikennsla: Þetta mál sýnir fram á mikilvægi skýrra samningsskilmála og þess að viðhalda endanlega ábyrgð manna á mikilvægum gervigreindarforritum í læknisfræðigeiranum.

9. Algengar spurningar um ábyrgð gervigreindar

10. Niðurstaða: Lykilatriði varðandi ábyrgð gervigreindar

5 lykilatriði varðandi ábyrgð gervigreindar í reynd:

1. Margir aðilar geta borið ábyrgðfrá forriturum til notenda, allt eftir hlutverki þeirra og stjórn á gervigreindarkerfinu
2. Samningssamningar eru nauðsynlegirSkýr ákvæði um notkun gervigreindar koma í veg fyrir lagalega óvissu
3. Skjölun er mikilvægGóð skráning og rekjanleiki ákvarðana um gervigreind styrkir lagalega stöðu þína
4. Skylda er að fylgja lögum um gervigreindNýjar evrópskar reglugerðir skapa frekari umönnunarskyldur fyrir kerfi með mikla áhættu
5. Tryggingar bjóða upp á verndSérstök ábyrgðartrygging fyrir gervigreind nær yfir áhættu sem hefðbundnar tryggingar ná ekki yfir

Lagalegt landslag varðandi ábyrgð gervigreindar er að þróast hratt. Með afturköllun tilskipunar um ábyrgð gervigreindar og gildistöku laga um gervigreind er enn mikilvægt að fylgjast með þróun laga og skipuleggja eftirlit og áhættustýringu með fyrirbyggjandi hætti.

Næstu skref:

• Láttu samninga þína um gervigreind endurskoða og breyta löglega
• Innleiða stjórnunarferli gervigreindar í samræmi við lög um gervigreind
• Kannaðu sérstaka ábyrgðartryggingu fyrir gervigreind fyrir fyrirtækið þitt
• Ráðfærðu þig við sérhæfða lögfræðinga vegna flókinna innleiðinga á gervigreind

Með því að taka á ábyrgð gervigreindar fyrirbyggjandi er hægt að njóta góðs af gervigreind og takast á við lagalega áhættu.