Älä eksy suunnittelun pimeälle puolelle – eettinen suunnittelu ei yritä hyötyä huijaamisesta

Kaikki suunnittelu voi olla eettistä tai epäeettistä. Digitaalisten palveluiden suunnittelussa eettiseksi suunnitteluksi kutsutaan suunnittelua, jossa aktiivisesti vältetään manipuloivien taktiikoiden käyttöä, huolehditaan yksityisyydestä ja saavutettavuudesta, tarjotaan tasavertaisesti mahdollisuuksia sekä viestitään läpinäkyvästi. 

Saavutettavuus ja saavutettavuuskriteeristö (WCAG) ovat osa eettistä suunnittelua, mutta toisin kuten saavutettavuudesta, eettisen suunnittelun kokonaisuudesta ei ole luotu yksiselitteistä ohjeistoa tai kriteeristöä. Eettinen suunnittelu elää ja muuttuu koko ajan. Koska sitä ei ole tarkoin määritelty, sitä on myös vaikea valvoa.

Tässä kohtaa on hyvä erottaa epäeettinen suunnittelu konversio-optimoinnista. On eri asia pyrkiä parantamaan konversiota ostamista helpottamalla ja esimerkiksi ehdottamalla asiakkaalle sopivia tuotteita kuin lisätä salamyhkäisesti lisäpalveluita asiakkaan koriin, vaikeuttaa palvelun peruuttamista, tehdä tuotteen palautuksesta epäinhimillisen vaikeaa tai salata asiakkaalta tärkeää tietoa. 

Tekemällä itsemme tietoiseksi eettisestä ja epäeettisestä suunnittelusta voimme kuitenkin kasvattaa tietoisuutta siitä. Ja osaamme vaatia sitä ostajana, suunnittelijana ja käyttäjänä.

Manipuloivien taktiikoiden käyttöön myynnin lisäämiseksi viitataan termillä dark patterns.  Dark patterniksi luetaan sellainen suunnittelu, jossa tarkoituksenmukaisesti yritetään manipuloida käyttäjä tekemään jotakin, mitä hänen ei ollut tarkoitus tehdä tai jota hän ei alun perin halunnut tehdä.

Vuonna 2017 Redditin kautta uutiseksi nousi kiinalaisen lenkkarivalmistajan Kaiwei Ni:n Instagram Story -mainos, johon oli tarkoituksellisesti jätetty hiuksen näköinen viiva. Hiuksen tarkoitus oli saada käyttäjä swaippaamaan mainosta yrittäessään ”pyyhkäistä hius pois” ja päätymään verkkokauppaan, jossa lenkkarit olivat kovassa tarjouksessa.

Mainos ilmiannettiin julkisuuskohun saattelemana, ja kyseinen mainostili sai porttikiellon. Uutisjuttujen takia yritys keräsi kuitenkin paljon mediahuomiota, ja monet markkinointialalla olivat jopa sitä mieltä, että feikkihiuskikka oli vain nokkelaa suunnittelua. (Lue lisää jutusta The Verge)

Manipuloivat taktiikat vaihtelevat liiallisesta ohjauksesta räikeään huijaamiseen ja tarkoitukselliseen harhaanjohtamiseen. Vuonna 2019 tehdyssä tutkimuksessa havaittiin, että n. 11 % tutkituista yli 11 000:sta verkkokaupasta käytti vähintään yhtä manipuloivaa taktiikkaa. (Princeton University & University of Chicago)

Piilotetut kustannukset

Piilotetun kustannuksen taktiikassa odotetaan aivan viimeisen hetkeen saakka ennen kuin asiakkaalle paljastetaan jokin lisäkulu, joka lisätään ostettavan tuotteen tai palvelun hinnan päälle. Tällainen voi olla esimerkiksi palvelumaksu tai käsittelymaksu.

Rajoitettu aika

Asiakkaille näytetään esimerkiksi aikalaskuri, joka ilmoittaa, että nykyiset hinnat ovat voimassa vain rajoitetun ajan. Tosiasiassa hinnat pysyvät ennallaan.

Confirmshaming

Asiakkaalle pyritään aiheuttamaan häpeää tai hölmö olo, jos hän tekee tietyn valinnan. Esimerkiksi pop-up-ilmoitus pyytää liittymään uutiskirjelistalle ja tarjoaa siitä vastineeksi alennuksen. Jos uutiskirjetilauksesta kieltäytyy, valinnassa lukee ”Ei kiitos, haluan maksaa täyden hinnan.”

Yksityisyys

Käyttäjän yksityisyyttä voidaan loukata monin eri tavoin esimerkiksi rikkomalla GDPR-sääntöjä. Yksi käytännön tapa urkkia asiakkaan tietoja on vaatia palveluun kirjautumista ainoastaan jonkin olemassa olevan sosiaalisen median profiilin kautta, jolloin päästään käsiksi käyttäjän somedataan. Käyttäjälle olisi hyvä tarjota vaihtoehtoisia kirjautumistapoja, jotka eivät vaadi sometilien linkittämistä. Toinen valitettavan useasti käytetty tapa on tehdä evästeistä kieltäytyminen niin vaikeaksi ja monimutkaiseksi, että suurin osa asiakkaista valitsee evästeiden hyväksymisen.

Harhaanjohtavat tekstit tai värit

Käyttäjää voidaan aktiivisesti harhaanjohtaa esimerkiksi käyttämällä Kyllä-vastaukseen punaista väriä ja Ei-vastaukseen vihreää väriä tai hämäämällä käyttäjää harhaanjohtavilla teksteillä.

Epäeettinen suunnittelu ei ole pelkästään tietoista harhaanjohtamista tai käyttäjän erehdyttämistä. Esimerkiksi huonosti saavutettavat ratkaisut, jotka sulkevat ulos isoja ihmisryhmiä tai tuottavat automaattisesti syrjiviä tuloksia voidaan lukea samaan kategoriaan.

Tekoälyn käyttösovellusten lisääntyessä huoli tasavertaisuudesta nousee myös tapetille. Tämänhetkiset ratkaisut edustavat pääosin ns. ”kapeaa tekoälyä”. Ne ovat vain niin älykkäitä kuin niille oppimiseen syötetty data. Esimerkiksi varsinkin USA:ssa laajasti käytössä olevat rekrytoivat tekoälyt ja rekry-algoritmit avaavat monia vaaranpaikkoja syrjintään (Harvard Business Review). 

Yhdessä tapauksessa algoritmi tunnisti, että rekrytoijat suosivat valkoihoisten miesten hakemuksia: rekrytoijat avasivat hakemukset useammin ja käyttivät niiden parissa enemmän aikaa. Täten algoritmi alkoi etsiä datasta proxyjä eli todennäköisiä indikaattoreita sille, että hakija on valkoinen ja mies. Näitä indikaattoreita olivat esimerkiksi valkoiselta kuulostavat etunimet (esim. Jared) ja se, pelasiko henkilö koulussa lacrossea.

Sanomattakin on selvää, että tämän tyyppiset tekoälyt luovat ja lisäävät syrjintää. USA:ssa rekrytoimisohjelmissa ja monissa muissa portaaleissa pyydetään ilmoittamaan henkilön etnisyys tilastoimistarkoituksiin ja vähemmistökiintiöiden täyttämiseksi, mutta monissa tapauksissa etnisyyden merkitseminen johtaa vain lisäsyrjintään. 

Toinen lähitulevaisuudessa monia eettisiä ongelmia aiheuttava tekoälyn alue on itseajavat autot. Meillä on jo teknologiaa, joka optimaalisessa tilanteessa on turvallisempaa kuin ihmisen ajama auto. Mutta tekoälyllä ei ole perstuntumaa tai lihasmuistia – jokaisen tekoälyn tekemän päätöksen pitää perustua johonkin käskyyn tai tavoitteiseen.

Helppo tavoite on välttää kolareita ja ajaa turvallisesti, mutta entä jos vastaan tulee no-win-tilanne, jossa jotakuta tulee varmasti sattumaan? Mitä tekoälylle opetetaan tilanteesta, jossa auto on etenemässä kovaa vauhtia ihmisjoukkoon? Priorisoiko auto matkustajien turvallisuuden vai vastaantulevien turvallisuuden? Jos tiellä on lapsi ja mummo, kumpaa auto väistää?

Kun havainnoi käyttämiään palveluita etiikan lasit silmillä, alkaa helposti tunnistaa tilanteita, joissa on käytetty kyseenalaisia keinoja. Dark patterneihin törmätessä voi aina äänestää jaloilla ja lompakolla sekä antaa palautetta organisaatioille.

Tämä toimii myös toisin päin: kun havaitset selkeää ja läpinäkyvää viestintää ja käytettävyyttä, suosi sitä.

Suunnittelutyössä eettisyyttä voi edistää aktiivisesti välttämällä manipuloivia taktiikoita, panostamalla saavutettavuuteen ja yksityisyydensuojaan ja olemalla läpinäkyvä viestinnässä.

Harva meistä osaa kylmiltään tuottaa täydellisiä lopputuloksia, mutta huolehtimalla esimerkiksi suunnitteluryhmän diversiteetistä, käyttäjätestauksesta sekä suoraselkäisyydestä ollaan jo hyvällä alulla.

Tuotteiden ja palveluiden menestyksen tulisi riippua niiden laadusta ja niitä ympäröivän ekosysteemin laadusta. Ei siitä, pyyhkäisikö joku feikkihiuksen ruudultaan.