Microsoft strammer AI-reglerne..

Microsoft vil sætte klarere grænser for, hvordan selskabets egne AI-modeller må opføre sig. De har offentliggjort et foreløbigt adfærdskodeks, der blandt andet skal sikre, at AI arbejder i menneskers tjeneste og ikke forsøger at erstatte dem.

Mustafa Suleyman, der står i spidsen for Microsofts AI-udvikling, siger, at de har fået feedback om behovet for en klarere forpligtelse til, at AI altid skal støtte menneskene. Modellerne må ifølge kodekset ikke gøre brugerne afhængige eller være “overdrevent medgørlige”.

Microsoft har arbejdet på dette regelsæt i cirka fem måneder og præsenterer det nu midt i en stigende debat om sikkerheden ved avanceret kunstig intelligens. Flere ledere, herunder Dario Amodei fra Anthropic, har opfordret til at sænke tempoet i udviklingen af de mest avancerede AI-modeller.

Modellerne må ikke hjælpe med at fremstille våben eller anskaffe farlige stoffer. De må heller ikke udvikle deres egne mål eller forsøge at skjule uønsket adfærd over for udviklerne. Kodekset fastslår også, at AI skal kommunikere på en måde, som mennesker kan forstå.

Microsoft planlægger at indsamle feedback på kodekset, inden en opdateret version skal styre udviklingen af deres AI-modeller fra 2027.

Artikel om technyheder set på Computerworld.dk – Gengivet her på ONN.dk   |   🔎 Artiklen er læst 1192 gange