Profilering sätter käppar i hjulet för inkluderande design

23 oktober 2019

Den 9 oktober gick Nordic.design av stapeln på Magasin 9 i Stockholm. Forefront var där och lyssnade på flera inspirerande och tankeväckande talare. Ständigt aktuellt är ämnet om inkluderande design och hur vi bygger lösningar som är möjliga att använda av så många som möjligt, oavsett förmåga och förutsättningar. Kan vi bygga system som passar alla?

Laura Kalbag, expert på användbarhet och författare till boken Accessibility for Everyone, pratade övergripande om Disruptive Design. Vad vi också skulle kunna kalla exkluderande design, design som stänger ute grupper av människor baserat på förutfattade meningar. Utöver att bland annat 83,5% av alla webbsidor innehåller text med för låg kontrast och att CAPTCHA är det överlägset största problemet på webbsidor för personer med funktionsvariation, pratade Laura också om profilering på nätet.

Profilering baseras på stereotyper

Profilering handlar om att samla in och analysera data om användare för att som företag enklare kunna rikta innehåll mot en önskad målgrupp. Problemet med profilering är att den inte sällan baseras på antaganden om hur personer borde vara eller bete sig. De system vi bygger idag som baseras på machine learning använder sig av data som kan innehålla fördomar.

 

Hur kommer det sig att vi fortfarande blir förvånade när vi hör om innehåll som riktas mot oss baserat på stereotyper, kanske framförallt baserat på kön? Det är ju vi i tech-branschen som bygger algoritmerna för den artificiella intelligens som ska avgöra vem som får ta del av vilket innehåll. Eva Blum-Dumontet har skrivit en artikel som riktar kritik mot detta förenklade sätt att dela in människor i olika fack vilket kan summeras med detta citat:

 

“And if there is one thing artificial intelligence is good at it is reproducing the behaviour and prejudices of those who designed it and those who gathered the data”

Effektiv (och oetisk) exkludering genom profilering

Är det så fel med profilering då, jag får ju reklam som är riktad direkt till mig? Förutom att du får reklam som är skräddarsydd för dina behov (vilket i sanningens namn kan kännas rätt bekvämt) skulle vi också kunna anta att det kan exkludera utvalda grupper för visst innehåll. Att få reklam, information eller jobberbjudanden baserat på vilket fack vi placerats i, vad som borde intressera oss. Inte vad vi faktiskt är intresserade av. På samma sätt skulle en annonsör fritt kunna välja vilken grupp de är intresserade av att attrahera och på så sätt exkludera (för dem) oönskade grupper. Ett exempel på det skulle vara en arbetsgivare som av någon anledning inte vill att personer med synskada ska ta del av en jobbannons. Genom profilering har arbetsgivaren då möjlighet att dölja sin annons för personer med synskada vilket kan vara diskriminerande.

 

Givetvis handlar stereotyper inte bara om kön utan om etnicitet, socioekonomisk bakgrund och funktionsvariationer för att bara nämna några. Detta handlar kanske inte främst om tillgänglighet utan om inkludering och hur vi skapar en öppen tillvaro där alla får chans till samma möjligheter.

Ansvaret ligger på oss att påverka

Hur kan du och jag hjälpa till att skapa bättre förutsättningar för inkluderande design? Om vi ska lyssna på Laura Kalbag så ligger ansvaret på oss att påverka. Det är vi som ska agera förespråkare för användare genom att fråga oss och vår omgivning varför saker är på ett visst sätt. Hur det kommer sig att ett system är designat som det är och om vi verkligen har tagit hänsyn till andra perspektiv än vårt eget. Var kommer uppgifterna ifrån och hur kommer vi att använda den data vi samlar in? För det handlar inte om att jag som användare vill gömma mig utan om rätten att veta hur min data används.

 

“The cost of using technology should not be our personal data, our privacy, our power, control or agency”

Fokusera på problemet i första hand

Ibland kommer kommentarer upp om att visuell design och layout går före tillgänglighet av kosmetiska skäl. Ibland handlar det om att vi vill hjälpa användaren att fokusera på ”rätt” saker. Till exempel att knappen Skapa konto lyser starkt medan informationen om cookies och delning av data till tredje-part smälter in i bakgrunden. Något som i många fall hjälper företaget mer än användaren.

 

Att tillgänglighet och inkludering skulle vara ett hot mot elegant design är något vi på Forefront inte tror på. För oss handlar det om att i första hand skapa en förståelse för användaren och problemet vi ska lösa. Utan förståelse för problemet spelar det ingen roll hur snygg design vi tar fram om det i slutändan inte löser grundproblemet. Det handlar om att bygga empati för användaren och om en nyfikenhet inför användare med olika förutsättningar och förmågor – att ha ett inkluderande mindset. 

 

Kortfattat och konkret arbetar vi med att kombinera kvalitativa och kvantitativa metoder för att förstå användaren ut olika perspektiv. De insikter vi får ut ur researchen leder till en design som testas löpande på användare för att säkerställa att vi uppfyller användarens behov. När vi fokuserar på problemet och sätter användaren i centrum redan från början behöver vi inte känna att tillgänglighet är något som måste bockas av i slutet av projektet. Det bakas in i det dagliga arbetet och resulterar i en hållbar och mer inkluderande design.

 

Optimalt bör team arbeta inkluderande genom att bygga upp ett team med olika erfarenheter och bakgrunder. Istället för att en homogen grupp människor ”läser på” och lär sig om grupper med olika förmågor och förutsättningar än de själva skulle vi spara både tid och energi genom att basera teamet på personer med erfarenheter ur olika perspektiv.

 

Av: Sanna Tyni, Forefront Consulting

Referenser

Eva Blum-Dumontet

 

Laura har delat med sig av sin presentation och en rad nyttiga referenser som du kan hitta här

Nästa nyhet

Forefront Consulting blir Gasellföretag igen

21 oktober 2019