”Diskriminering av kvinnor missas i AI-rapport” / “Discrimination Against Women Overlooked in AI Report”

Sverige kan bli bäst i världen på AI-lösningar som hela befolkningen kan lita på. Inte bara halva. Men de negativa effekterna av att tekniken diskriminerar kvinnor är ett borttappat perspektiv i AI-kommissionens nya rapport, skriver experten Anna Felländer i en gästkrönika för Omni Ekonomi.

Att säkerställa ansvarsfull och etisk AI är en förutsättning för att kommersialisera och innovera AI. Det är inte något sido-moment så som det presenteras i AI-kommissionens rapport, utan en grundbult för att vi ska kunna lita på AI.

Utan styrning av AI ökar de etiska fallgroparna och våra mänskliga rättigheter riskeras att förbises. AI är en fantastik teknologi som ska användas och omfamnas inom vissa områden. Inom andra områden, där konsekvenserna av att det blir fel är allvarliga, behövs tydliga kontroller och valideringsmetoder.
Jämställdhetsperspektivet I AI-kommissionens rapport är borttappat. De negativa konsekvenserna på samhället av att AI diskriminerar kvinnor kan inte underskattas. Mängder av studier visar att kvinnor systematiskt exkluderas, är underrepresenterade i data och att algoritmer överdriver stereotyper av det kvinnliga skönhetsidealet. En studie från Berkeley Haas Center for Equity, Gender and Leadership analyserade 133 AI-system i olika branscher och fann att cirka 44 procent av dem uppvisade könsfördomar.

Dessa är orsakerna:

Partiskhet i data: AI speglar de förlegade könsnormerna och underrepresentationen av kvinnor i träningsdata. Det kan ledan till att när kvinnor använder vissa AI-lösningar för att diagnostisera sjukdomar får de felaktiga svar, eftersom AI inte är medveten om symptom som kan uppträda annorlunda hos kvinnor. Om vi inte bryter denna trend kommer AI resultera i lägre kvalitet på tjänster, partiska beslut om jobb, krediter, hälsovård och så vidare.
Partiskhet i algoritmer: AI har sämre precision för kvinnor, förstärker stereotyper och generaliserar. Algoritmers målvariabler så som vinst, engagemang och ökat försäljning uppnås omedvetet på bekostnad av jämställdhet.
Partiskhet i de teams som utvecklar AI lösningen. Enligt Global Gender Gap Report från 2023 är det bara 30 procent kvinnor som för närvarande arbetar inom AI. När teknik utvecklas med bara ett perspektiv är det som att se världen halvblint.
I AI-kommissionens rapport nämns att riskerna för partiskhet i data behöver beaktas. Men det är datasäkerhet och sekretesskydd som ges uppmärksamhet i budgeten. 2022 tog mitt bolag tillsammans med Jämställdhetsmyndigheten, Försäkringskassan och Skatteverket, finansierat av Vinnova, fram en metod för att detektera diskriminering kopplat till kön och validera jämställd AI.

Sverige kan bli bäst i världen på AI-lösningar hela befolkningen kan lita på.

Inte bara halva.

‍

English Translation by AI

‍

Sweden can become the best in the world at developing AI solutions that the entire population can trust. Not just half. But the negative effects of technology discriminating against women are a missing perspective in the AI Commission’s new report, writes expert Anna Felländer in a guest column for Omni Ekonomi.

Ensuring responsible and ethical AI is a prerequisite for commercializing and innovating AI. It is not some side issue, as presented in the AI Commission’s report, but a cornerstone for enabling trust in AI.

Without governance of AI, ethical pitfalls will increase, and our human rights risk being overlooked. AI is a fantastic technology that should be used and embraced in certain areas. In others—where the consequences of mistakes are severe—clear controls and validation methods are needed.

The gender equality perspective is missing in the AI Commission’s report. The negative consequences for society of AI discriminating against women cannot be underestimated. Numerous studies show that women are systematically excluded, underrepresented in data, and that algorithms exaggerate stereotypes of female beauty ideals. A study from the Berkeley Haas Center for Equity, Gender and Leadership analyzed 133 AI systems across different industries and found that about 44 percent displayed gender bias.

The reasons are:

• Bias in data: AI reflects outdated gender norms and the underrepresentation of women in training data. This can lead to situations where women using certain AI solutions for disease diagnosis receive incorrect answers because AI is not aware that symptoms can present differently in women. If we do not break this trend, AI will result in lower-quality services and biased decisions in areas like employment, credit, and healthcare.
• Bias in algorithms: AI has worse accuracy for women, reinforces stereotypes, and generalizes. Algorithmic target variables—such as profit, engagement, and increased sales—are unconsciously achieved at the expense of gender equality.
• Bias in the teams developing AI solutions: According to the Global Gender Gap Report 2023, only 30 percent of those currently working in AI are women. When technology is developed from only one perspective, it is like seeing the world half-blind.

The AI Commission’s report does mention that the risks of bias in data need to be considered. But data security and privacy are what receive attention in the budget. In 2022, my company—together with the Swedish Gender Equality Agency, the Swedish Social Insurance Agency, and the Swedish Tax Agency, funded by Vinnova—developed a method to detect gender-based discrimination and validate gender-equal AI.

Sweden can become the best in the world at AI solutions the entire population can trust.

Not just half.