Etikett: AI-kommissionen

Spaningar inom tech och sociala medier från veckan som har gått.

Övriga delar i veckans sammanställning

• Del 1: Sociala medier
• Del 3: AI – artificiell intelligens, IoT – internet of things, Mobilt, Övrigt

Sociala medier

Övrigt sociala medier

Australien förbjuder sociala medier för barn under 16 år

Här har vi next level skärmtidsdiskussion: Australien har nu röstat igenom sin kontroversiella lag: barn under 16 år förbjuds att använda sociala medier.

Intressant nog så omfattar förbudet inte meddelandetjänster – eller onlinespeltjänster. Vilket båda två rätt mycket (ja, eller helt och hållet) kan sägas vara ”sociala tjänster” som, om man så vill, kan vara precis lika skadliga för den mentala hälsan som traditionella sociala medier.

Så man kan sammanfatta läget med ungefär ”kids ska inte se det därade flödet i Instagram och TikTok”.

Lagen är som vanligt framtagen med goda intentioner: för att skydda barns mentala hälsa. Även om de barn som nu drabbas kanske inte… helt håller med.

Vi pratar dock inte om ett enigt parlament som röstade igenom lagen och det här lär inte vara det sista ordet i frågan. Vi kan nog anta att det blir en fråga även för Australiens domstolsväsende.

Oavsett hur det går så ger lagen nu techbolagen ett år på sig att göra de nödvändiga förändringarna för att följa lagen.

Vi kan anta att de sociala plattformarna nu inte direkt kommer att lobba mindre för att få Apple och Google, via respektive appbutik, att ta över ansvaret för ålderskontroll.

Children and teenagers under 16 to be banned from social media after parliament passes world-first laws

Google Chat får Slack-huddles

Google ger sig ännu en gång på att ta fram en – delvis ny – ”chattjänst”. Den här gången är det Slacks Huddle-funktion som har kopierats.

Det innebär med andra ord att man snabbt ska kunna starta korta videosamtal med någon annan via Google Chat.

Egentligen är det konstigt att det har tagit så lång tid för Google att lägga till det här. Nu återstår att se hur bra de funkar – och hur mycket funktionen kommer att användas.

Google Chat adds huddles in its latest attempt to be like Discord and Slack

Sök/SEO

Google ändrar tillbaka till sökresultat med 10 blå länkar i tre europeiska länder

Saknar du Googles gamla sökresultat? Det med 10 blå länkar och eventuellt annonser till höger eller högst upp? Grattis! Nu är det retro time. Nu får du precis det. Åtminstone om du bor i Tyskland, Belgien och Estland.

Google har gjort ett antal nya förändringar i sin strävan att möta kraven i Digital markets act samtidigt som de försöker jonglera fram lönsningar för att tillfredsställa ibland motstridiga önskemål från prisjämförelsesajter, hotell, flygbolag och mindre handlare.

Det innebär konkret saker som:

• Utökade och ”likvärdigt formaterade” ytor i sökresultatet där man kan välja mellan prisjämförelsesajter eller leverantörssajter vid sökningar efter produkter, hotell, restauranger eller flyg
• Möjligheter för konkurrenter att visa mer information från sina sajter, som priser och bilder
• Nytt annonsformat för prisjämförelsesajter

Sen var det det där med de blå länkarna.

Google kommer dessutom göra ett ”kort” test i de tre nämnda länderna där ”viss funktionalitet” i Google sök kring hotellsökningar kommer att försvinna. Det handlar om saker som att visa en karta med de olika hotellen med de enskilda hotellen under. Istället blir det alltså en lista i stil med den gamla blålänksmodellen.

Så det handlar alltså inte om att hela sökresultatet får en vintagelook, bara den delen vid hotellsökningar.

Och visst har Google det inte helt lätt när de måste försöka hantera alla dessa krav från olika håll, där företaget försöker tillfredsställa de som klagar så att de inte EU-anmäler sökjätten.

Men blålänksupplägget är lika mycket ett varningsskott från Google: fortsätter ni jiddra så blir det så här trist. Och därmed dåligt för er.

An update on our compliance with the DMA

Google stoppar in söklänkar på sajter utan sajtägares samtycke

Intressant drag från Google. Man tar nu sitt ”ad intents”-upplägg steget längre och låter ungefär den lösningen omfatta vanliga länkar.

Ad intents är ett format som sajter kan aktivera för sitt innehåll. Google kommer då automatiskt att länka upp relevanta nyckelord på en extern sajt och leda dessa länkar till en Google-sökning med annonser. Klickar en användare på någon annons som visas så får sajten som skickar ”affiliate-trafiken” del av annonsintäkten.

Det nya formatet, Page annotations, är inte annonsdrivet, utan snarare informationsdrivet. Exemplet som ges från Google är att en skriver om ett visst slott. Google länkar automatiskt upp namnet på det aktuella slottet och leder länken till platsens eller företagets ”business”-infopanel hos Google, där man kan se info, öppettider och annat som vi är vana vid.

Den stora skillnaden mellan det nya formatet och Ad intents är samtycket. Eller kanske bristen på samtycke.

Ad intents-formatet bygger på att en sajt själv aktiverar annonsformatet och därmed funktionen. När det kommer till Page annonations så länkar Google upp saker utan att sajtägaren måste göra något. Istället finns det ett formulär som en sajtägare kan fylla i för att Google INTE automatiskt ska länka upp innehåll på sajten. Opt out istället för opt in, alltså.

Om vi bortser från hela upplägget med att Google alltså börjar peta in länkar på sajter utan att be om lov säkerligen inte lär landa helt väl hos rätt många så känns det som ännu ett bevis på att Google börjar känna sig allt mer stressade över att bli utmanade på sökområdet. Både från sociala medier och nya AI-söktjänster.

Google vill helt enkelt säkerställa att folk använder Google när man vill ha information. Även om – och kanske framförallt när – en användare själv inte funderar på att besöka Google.

Google stoppar med andra ord in gratisreklam för sig själv på externa sajter, helt på eget bevåg.

Det blir bara att skicka faktura till Google för de sajter som råkar ut för funktionen.

Google is inserting search links into webpages in the Google App now

AI – artificiell intelligens

AI-kommissionen anser att Sverige är i akut [sic!] AI-kris

Så har den regeringstillsatta AI-kommissionen kommit i mål med sitt arbete. Senare idag presenteras den. Men redan nu har jag… tankar.

Jag har med andra ord inte läst rapporten. Och inte heller nedanstående artikeln, eftersom jag inte har DN-prenumeration (det är givetvis extremt ironiskt att kommissionen väljer att lägga en debattartikel inom detta ämne, som de föga förvånande anser är extremt viktig, bakom betalvägg). Med andra ord är det här förhoppningsvis taget ur en mer nyanserad kontext.

Men oavsett.

Det AI-kommissionens ordförande Carl-Henric Svanberg konstaterar är:

”Sverige halkar efter och saknar en politisk strategi vad gäller artificiell intelligens. Läget är akut. Därför presenterar vi vår rapport ett halvår i förtid, med 75 förslag på åtgärder. Vi vill bland annat se ett tillfälligt politiskt stabsläge, direkt under statsministern.”

Och… det känns som en av de mest överdrivna användningarna av ordet ”akut” på länge.

Jag är övertygad om att kommissionen har gjort ett gediget arbete och att det finns mycket bra bland åtgärdsförslagen. Och att regeringen lyssnar (tyvärr har ju nuvarande regering visat sig inte alls vilja lyssna på expertis, så mina förväntningar är dock rätt låga).

Och det finns en hel del akuta saker att ta tag i. Om vi bortser från globala kriser som klimatet så har vi flera stora utmaningar. Allt större ekonomiska klyftor, en välfärd som allt mer gröps ut av skattesänkningar som mest gynnar de som har mest, allt sämre möjligheter för lärare och skola att utföra sitt uppdrag, en friskoleexperiment som fortfarande får köra på i det stora hela rätt ouppstyrt och en regering som bevisligen vill backa Sverige in i det förflutna och låsa upp en hel generation i höga elpriser istället för att driva på för att göra Sverige världsledande inom förnybar teknik. Överlag är det akut att vi har ett allt mindre jämlikt samhälle.

Så there’s that.

Och mycket av det här är också förutsättningar för att vi ska få utväxling av AI-initiativ. Det är förstås inte AI-kommissionens jobb att ansvara för allt det här, men det är fundament som måste vara på plats för att vi ska kunna stå oss som nation i framtiden.

Men som så ofta när det kommer till ”AI” (som vi definierar det numer) så blir det oproportionerlig panik vid minsta tecken på att ”vi halkar efter” (särskilt som ChatGPT vid det här laget bara är ganska exakt två år gammalt).

Sverige got 99 stora problems. Men AI är förmodligen inte ett av dem.

DN Debatt. ”Hela samhället måste ställa om för att hantera AI”

AI-kommissionen missade chansen att lyfta problematiken kring kostnaden för internetåtkomst

Mina tankar om AI-kommissionens AI-rapport. Del två.

Igår kom AI-kommissionen med sin rapport kring Sverige och AI. Då skrev jag om att kommissionens ordförande Carl-Henric Svanberg dragit till med frasen ”akut läge” för att beskriva att Sverige inte gör tillräckligt mycket.

Jag skrev då några reflektioner utifrån det – där TL;DR var att det kan vara en av de mest överdrivna användningarna av ordet ”akut” på länge. Det är det alternativa doom- and gloom-narrativ som AI-evangelisterna gillar (till skillnad från kritikernas motsvarighet, där AI förgör mänskligheten). Jag passade också på att lyfta fram några betydligt större utmaningar som Sverige står inför – som inte direkt har med AI att göra med som är extremt viktiga förutsättningar.

Det inlägget var baserat på den debattartikel (ironiskt nog bakom betalvägg) som kommissionen gick ut med i DN. Nu har hela rapporten landat och jag gläder mig åt att rapporten åtminstone inte använder just det ordet för att beskriva läget.

Jag har ännu inte läst hela rapporten, men bland åtgärdsförslagen finns också bra saker. (Sen återstår att se hur mycket nuvarande regering tar till sig av dem – de gillar ju generellt sett inte att lyssna på expertkunskap.) Bra också att rapporten lyfter behovet av uppkoppling som en viktig förutsättning. Med rekommendation hur Sverige bör agera för att snabba på utbyggnaden av snabb internetuppkoppling i hela landet.

Däremot missar tyvärr kommissionen chansen att lyfta en extremt viktig fråga i detta sammanhang: de kostnader som konsumenter behöver lägga för att överhuvudtaget komma ut på internet. Och skarpa förslag eller rekommendationer kring detta.

Ända sedan internet föddes har det i princip varit kommersiella krafter som kontrollerat vår tillgång till internet. Och har kunnat sätta såväl pristak som hastighet och datatak. De som tycker att det funkar bra som det är brukar säga att det ”bara” handlar om ett par hundralappar i månaden (eller mer).

Men ett par hundra i månaden blir över 2000 spänn om året. Vilket är väldigt mycket pengar för människor som lever på marginalen. Vilket tyvärr är allt fler svenskar. Och på de nivåerna är det dessutom ofta hyfsat begränsade mängder data och begränsade hastigheter.

Tillgången till internet är dessutom långt viktigare än tillgången till AI-verktyg. Det vore med andra ord väldigt välkommet med politiker som på allvar börjar lyfta vad det bör – och ska – kosta att få tillgång till internet. Det som alltmer börjar lyftas som en ny mänsklig rättighet.

AI-kommissionens Färdplan för Sverige

Försäkringskassans sekretessbelagda AI-algoritm för att hitta Vab-fuskare drabbar kvinnor och lågutbildade mer

Om veckans stora AI-nyhet på det mer framåtblickande området var AI-kommissionens rapport, med förslag på steg som de tycker att Sverige borde ta för att driva på användningen av AI i vårt land, så stod Svenska Dagbladet-grävande för ett exempel på problem och utmaningar som finns redan idag – och som kommer att behöva hanteras.

Tidningens journalister har tagit sig an den hemliga algoritm som Försäkringskassan använder för att jaga Vab-fuskare. Det är en AI som tittar på personen som ansöker om Vab och beteenden kopplade till det – och sätter poäng utifrån det på en skala. Om algoritmen misstänker att det är fusk å färde (att poängen alltså är låg) så flaggas ärendet och det går vidare till en mänsklig handläggare. Med tillhörande utredning.

Det i sin tur kan leda till att personer som fastnar i AI-filtret kan drabbas ekonomiskt genom att det dröjer innan man får pengar. Något som kan bli en rejält jobbig konsekvens för dem med små marginaler.

Att maskiner kan göra fel är inget nytt. Inte heller att även människor kan göra det.

Det här är alltså nog så jobbigt för dem som drabbas. Men när det kom till just Försäkringskassans användning så fanns det ytterligare försvårande faktorer.

Dels så var algoritmen bokstavligen talat hemlig – eftersom algoritmen, poängsättandet och vad skalan innebär är belagt med sekretess. Och eftersom det innebär att också beslutsunderlaget är sekretesstämplat så kan personen som – rätt eller fel – beskylls för att vara en Vab-fuskare inte försvara sig. Eftersom hen inte får tillgång till underlaget.

Dessutom visade det sig, när SvD testade, att 3 av 4 som fastnade i AI-nätet var kvinnor, trots att män och kvinnor historiskt har gjort lika mycket fel när de har ansökt (eller försökt fuska). Och det var också vanligare att lågutbildade, låginkomsttagare och människor med utländsk bakgrund flaggades.

Här finns det alltså en hel del saker som behöver lyftas, diskuteras och regleras. Inte minst offentlighetsprincipens relation till AI-algoritmer som används för myndighetsutövning.

Hemlig AI såg oskyldiga kvinnor som vab-fuskare

Diskrimineringsombudsmannen uppmanar de som har blivit diskriminerade av en AI att anmäla

Det här är väldigt intressant på ett principiellt plan. Diskrimineringsombudsmannen uppmanar alla som har blivit diskriminerade av en AI att anmäla.

Bakgrunden är det gräv SvD som avslöjar hur Försäkringskassan använder en hemlig AI-algoritm för att försöka fånga Vab-fuskare. Ett verktyg som är omgärdat av så mycket sekretess att myndigheten först inte alls vill prata om det när SvD hör av sig.

Det reportaget visar är även AI-algoritmen visar sig kunna göra, tja, mänskliga fel. Kategorisera människor felaktigt som fuskare baserat på de mönster som algoritmer upptäcker, vilket gör att ärenden skickas vidare till handläggare för att gräva i ärendet. Vilket gör att det kan dra ut på tiden att få pengar.

Det visade sig dessutom att kvinnor oftare än män valdes ut av AI:n för dessa manuella kontroller. Trots att de båda könen, medvetet och omedvetet, gör fel ungefär lika ofta.

Oskyldiga drabbades – något som gav ekonomiska konsekvenser för dem i form av försenade utbetalningar.

Att DO nu uppmanar människor som anser sig ha blivit diskriminerade av AI-tjänster att anmäla är som sagt principiellt väldigt intressant. För när det kommer till den här typen av viktiga ärenden – snarare än att rekommendera låtar eller skapa en bild av en person baserat på chatthistoriken med en AI-bot – så blir det mycket mer relevant att säkerställa att vi har en lagstiftning och reglering som kan hantera detta. Särskilt som AI-lösningar bara kommer att bli vanligare.

DO: ”Anmäl om du diskriminerats av AI”