Dags att vakna till värdet av etiskt AI / Time to Wake Up to the Value of Ethical AI

EU föreslår AI etiskt ramverk för att undvika integritetskränkningar och diskriminering. Det är efterlängtat. Sverige kan ta ledartröjan men då behövs en kraftigt förhöjd kunskapsnivån och ett uppvaknande hos politiker och i näringslivet.

Idag presenterar EU kommissionen lagförslag för att reglera artificiell intelligens (AI). Förslaget är en tydlig markering och indikation att AI utan ett etiskt filter kommer att begränsas, och i vissa fall förbjudas. Målet är att medborgare och konsumenter ska känna tillit och att EU’s värdegrund, inklusive mänskliga rättigheter, bibehålls.

Förslaget innebär att så kallade högrisksektorer, som bl.a. transport, offentlig sektor, sjukvård, m.fl., kommer behöva begränsa sin användning av AI om de inte uppfyller vissa krav som förklarbarhet och transparens. Viss typ av övervakning kommer att förbjudas liksom AI som manipulerar individer eller exploaterar data om individers beteende och preferenser i syfte att förändra beteende, åsikter eller beslut.

Allt fler upplever, direkt eller indirekt, de negativa effekterna (”digitala föroreningar”) av AI så som integritetsintrång, desinformation, användarberoende, diskriminering, tvivelaktigt samtycke, annonsbedrägeri, skadlig kod, popup-fönster, pop-ups och falska dialogrutor, missbruk av specialgrupper och robotrecensioner nämna några.

AI Sustainability Center har länge efterfrågat nya affärsmodeller för ökat förtroende och ett större socialt ansvar från organisationer i den datadrivna AI-eran, Etisk AI, och välkomnar förslaget på regleringar.

Vi står inför ett skifte. Från de positiva effekterna som digitaliseringen bidragit till, så som t ex transparens och ökat kundinflytande till negativa externa effekter så som diskriminering och integritetskränkningar. Organisationer behöver vakna upp snabbt och kraftfull till dessa negativa effekter och ansvara för dem. Detta leder i sin tur till möjligheter till innovation som vi kan lita på.

Potentialen av att fullständigt införa AI i svensk offentlig förvaltning beräknas uppgå till cirka 140 miljarder kronor årligen. I Sverige fattades, hos 13 myndigheter, totalt 148 miljoner beslut gentemot privatpersoner och företag under 2019. Av dessa ingick 137 miljoner i automatiserade beslutsprocesser, varav 121 miljoner beslut var helt automatiserade. AI Sustainability Center arbetar med flera av dessa myndigheter inom offentlig sektor för att säkerställa att deras användning av AI är etisk men efterlyser en större vakenhet generellt men hos privata aktörer speciellt.

Det är sedan tidigare känt att verksamheter som tar socialt ansvar ofta är mer framgångsrika. Så det är inte förvånande att 77 procent av mer än 300 tillfrågade stora europeiska institutionella investerare uppger att de helt kommer att sluta investera i “icke-ESG” -produkter och fonder (ESG – Environmental, Social and Governance). Dessvärre har nuvarande ESG-rapporteringen jämförts med läget för den årliga bokslutsrapporteringen före Wall Street-kraschen 1929. Den föreslagna regleringen ger förhoppningar om att verksamheter i framtiden även kommer att värderas utifrån de ”digitala föroreningarna” som de orsakar.

AI Sustainability Center menar att ett AI etiska ramar skapar förhöjt innovationsklimat inom alla sektorer. Sverige kan ta ledartröjan men då behövs kraftigt förhöjd kunskapsnivån hos politiker och i näringslivet.

Sverige har länge varit associerat med värden som tillit, innovation, samt öppenhet. Vi rankar ofta högt på globala listor över hållbara länder. För att Sverige fortsatt ska ta ledartröjan, behöver förslagen till regleringar förstås och anammas snabbt och inte med den yrvakenhet som kännetecknade GDPR. Förslaget har gett oss spelplanen och regelverket (om än dock inte i alla delar solklara), nu handlar det ”bara” om att förberedelser. Här måste tvärfunktionella grupperingar samverka för att få grundstenarna på plats för etisk AI –   regelverk, processer, organisatoriskt ansvar, förklarbarhetsmodeller och möjlighet till transparens.

‍

English Translation by AI

‍

The EU is proposing an ethical AI framework to prevent privacy violations and discrimination. This is long-awaited. Sweden can take the lead, but it will require a significantly higher level of knowledge and a wake-up call for politicians and industry leaders.

Today, the European Commission presents legislative proposals to regulate artificial intelligence (AI). The proposal is a clear signal that AI without an ethical filter will be restricted—and in some cases, prohibited. The goal is for citizens and consumers to have trust, and for the EU’s values, including human rights, to be preserved.

The proposal means that so-called high-risk sectors—such as transport, public administration, healthcare, and others—will need to limit their use of AI if they do not meet certain requirements, such as explainability and transparency. Certain types of surveillance will be banned, as will AI that manipulates individuals or exploits data about people’s behavior and preferences in order to influence their actions, opinions, or decisions.

Increasingly, people are experiencing, directly or indirectly, the negative effects (“digital pollution”) of AI, such as privacy violations, disinformation, user dependency, discrimination, dubious consent, ad fraud, malware, pop-ups and fake dialogs, misuse targeting specific groups, and automated reviews, to name a few.

The AI Sustainability Center has long called for new business models to increase trust and social responsibility from organizations in the data-driven AI era—Ethical AI—and welcomes the proposed regulations.

We are facing a shift. From the positive effects digitalization has brought—such as transparency and increased customer influence—to negative externalities, such as discrimination and privacy violations. Organizations need to wake up quickly and forcefully to these negative effects and take responsibility for them. This, in turn, creates opportunities for innovation we can trust.

The potential of fully implementing AI in Swedish public administration is estimated at approximately SEK 140 billion annually. In 2019, 13 Swedish authorities made a total of 148 million decisions regarding individuals and companies. Of these, 137 million were part of automated decision-making processes, of which 121 million were fully automated. The AI Sustainability Center works with several of these public authorities to ensure that their use of AI is ethical but calls for greater awareness, especially among private actors.

It is already known that organizations that take social responsibility often perform better. Therefore, it is not surprising that 77 percent of over 300 large European institutional investors state that they will completely stop investing in “non-ESG” products and funds (ESG—Environmental, Social, and Governance). Unfortunately, current ESG reporting has been compared to the situation of annual financial reporting before the Wall Street crash of 1929. The proposed regulation gives hope that organizations in the future will also be assessed based on the “digital pollution” they cause.

The AI Sustainability Center believes that an ethical AI framework creates an enhanced climate for innovation across all sectors. Sweden can take the lead, but it will require a significantly higher level of knowledge among politicians and industry leaders.

Sweden has long been associated with values such as trust, innovation, and openness. We often rank high on global lists of sustainable countries. To continue leading, the proposed regulations need to be understood and embraced quickly—not with the slow awakening that characterized GDPR. The proposal gives us the playing field and the framework (albeit not perfectly clear in all aspects); now it is “only” a matter of preparation. Cross-functional groups must collaborate to establish the foundations for ethical AI—regulations, processes, organizational accountability, explainability models, and transparency mechanisms.

‍