Apple Watch's tvivlsomme AI-funktioner..

Kommentar: Et Apple Watch kan snart opsummere dine samtaler og spole tilbage i dem. Selvom Apple understreger, at uret er proppet med privatlivsbeskyttelse, melder spørgsmålet sig alligevel: Har vi lyst til at tale fortroligt med folk, hvis deres ure eller måske snart telefoner lytter med?

For nylig havde jeg en god ven på besøg, som ikke var udpræget begejstret for det Google Nest-sikkerhedskamera, som står i min stue og pegede direkte mod os i løbet af samtalen. Det var ikke tændt, og det går kun i gang, hvis jeg forlader mit hjem eller aktivt tænder for det. Men jeg vælger naturligvis at trække stikket ud alligevel. For spørgsmålet er jo, om folk kan vide sig sikre på, at det nu også er slukket, eller at det ikke er blevet kompromitteret, så der nu sidder en fremmed og lytter med via en bagdør? Den slags uvished kan være ødelæggende for en fortrolig samtale. Men meget tyder på, at vi nu står over for en fremtid, hvor det er en uvished, som vi enten skal vænne os til eller begynde at tage vores forholdsregler for at beskytte os mod.

Et Apple Watch der lytter

Det blev ikke mindst understreget, da Apple onsdag aften præsenterede sine nye iPhones, AirPods og Apple Watch. Nogle af de mest bemærkelsesværdige funktioner var de to såkaldte audio intelligence-funktioner Siri Recap og Live Rewind, der kommer til at fungere med den nyeste generation af Apple Watch. Det er dog vigtigt at understrege, at funktionerne er en del af den nye Siri AI, som på grund af EU-regulering endnu ikke er klar til at blive udrullet i Europa, og desuden først bliver udrullet på engelsk i en betaversion senere på året.

Men funktionerne betyder, at mikrofonerne i dit smartwatch automatisk indsamler lyd og bruger den til at lave sammenfatninger af samtaler, uden at du som bruger behøver at gøre andet end at sikre, at funktionen er slået til.

Pakket ind i privacy-tiltag

Apple understreger dog, at funktionerne er pakket ind i en lang række privacy-tiltag. Eksempelvis skal du aktivt aktivere funktionerne, før de virker. Siri Recap fungerer på den måde, at den på alle tider af dagen automatisk kan generere resumeer af alle væsentlige samtaler, du har haft, og funktionen kan også indstilles til kun at være aktiv i bestemte perioder af din dag, eksempelvis mens du er på arbejde. Uret bruger kunstig intelligens til at opfange, hvornår en samtale er i gang. Optagelserne lagres midlertidigt i en beskyttet buffer på Apple Watch og sendes derefter krypteret til den iPhone, der er parret med uret. På telefonen bliver lyden dekrypteret, transskriberet og forkortet, hvilket indebærer, at der bliver fjernet visse overflødige fyldord, gentagelser og visse følsomme oplysninger, ord og vendinger. De rå lyddata slettes herefter, når de er blevet behandlet. Den forkortede version sendes herefter videre til Apples Private Cloud Compute i krypteret form, hvor en AI-model genererer et resume af samtalen og udstyrer det med en overskrift.

Samtaler gemmes i buffert

Funktionen kan blandt andet lade sig gøre, fordi der hele tiden er en buffer, hvor samtaler løbende lagres i 15 sekunder, før de bliver overskrevet. Bufferen muliggør også den anden funktion, Live Rewind, der gør det muligt for brugeren at dobbeltklikke på Apple Watch-urets krone og få en transskription af de seneste 15 sekunder af en samtale. Når du gør det, vil uret afgive en lyd, så folk i dine omgivelser kan høre, at du har aktiveret funktionen. Muligheden for på den måde at spole tilbage i en samtale, som var det en podcast, kan være praktisk, hvis du har overhørt noget eller måske misforstået noget, men det ændrer ikke på, at det i nogle situationer ganske givet også kan virke grænseoverskridende.

Føles som et brud

Alle Apples privacy-lag ændrer heller ikke på, at det her føles som et mærkbart brud med Apples hidtidige kompromisløse linje, når det gælder privatlivsbeskyttelse. Men det her handler ikke bare om Apple. En lang række startups som eksempelvis Bee, Plaud og NotePin har lanceret hardware med funktioner, som minder om de funktioner, Apple har offentliggjort. Derudover har Meta for nylig været ude i stort stormvejr på grund af sine såkaldte ”stalker-briller”, mens Microsoft ligeledes kom i problemer på grund af funktionen Windows Recall, som løbende tog billeder af brugerens skrivebord og kunne give resumeer af, hvad vedkommende har foretaget sig undervejs.

Det handler om tillid

Privatlivsbeskyttelse handler i høj grad om tillid. Både tillid til, at virksomheder som Apple behandler vores oplysninger sikkert og korrekt, men også om en anden form for tillid. Den form for tillid, som betyder, at vi tror på, at produkterne er designet på en smagfuld og etisk måde, hvor de ikke kan blive misbrugt, og at vi trygt kan bruge dem, uden at vores omgivelser mistænkeliggør os. For har du lyst til at have en fortrolig samtale med en ven, hvis du ved, at jeres samtale bliver transskriberet i baggrunden, og du ved, at den hemmelighed, som du måske ikke skulle have fortalt, pludselig ender i et resume på et Apple Watch eller et lignende stykke hardware? Og har du lyst til at sidde i et møde og diskutere hemmelige forretningsplaner, hvis du kan se, at en af mødedeltagerne har et Apple Watch eller et par Meta-briller på? Jeg er ikke sikker på, at jeg har lyst til det, og af samme grund kan jeg også godt blive i tvivl om, hvorvidt jeg vil bryde mig om at blive genstand for den mistænkeliggørelse, som der i fremtiden kan følge med at anvende produkter med den type funktioner. For selvom jeg slår funktionerne fra, eller de måske endda ender med slet ikke at blive udrullet i EU, så kan vi ikke fjerne omgivelsernes utryghed. Akkurat som det er tilfældet med sikkerhedskameraet i min stue.

Artikel om technyheder set på Computerworld.dk – Gengivet her på ONN.dk   |   🔎 Artiklen er læst 2532 gange