Generaal

Hierdie KI weet presies hoe rassisties en seksisties u kan wees


Vir baie innoveerders dien tegnologie as 'n manier om gapings tussen verskillende verskille te oorbrug. Dit gaan voort tot op die gebied van kunsmatige intelligensie. Algoritmes wat gehuur word, sal vooroordele teoreties uitskakel en vroue en mans van alle rasse 'n gelyke kans op hul werk gee. Dit is immers 'n robot en nie 'n mens nie. Dit kan selfs van toepassing wees op polisiëring, aangesien sekere minderhede dikwels die oorhand kry van buitensporige polisiemag regoor die wêreld.

Hoe goed 'n KI ons stereotipes kan opneem

In onlangse jare het AI's daarin geslaag om toenemend menslik te word danksy vinniger masjienleer. Die breër basis van inligting kan egter daartoe lei dat 'n KI 'n groter basis van menslike gedagtes verkry - insluitend ons vooroordele.

[Beeldbron: Pixabay]

Navorsers het besluit om hierdie verband op die proef te stel om te sien hoe goed 'n KI ons stereotipes kan opneem. Die span het navorsers van regoor die wêreld ingesluit, waaronder verskeie van die Princeton Universiteit.

"Moenie dink dat AI een of ander feetjie is nie," het Joanna Bryson, medeskrywer van die studie, gesê. Bryson dien as rekenaarwetenskaplike aan die Universiteit van Bath in die Verenigde Koninkryk en die Princeton Universiteit. "KI is net 'n uitbreiding van ons bestaande kultuur."

Woordassosiasie toetse

Die span het inspirasie gevind in die bestaande sielkunde. Hulle het gekyk na implisiete assosiasie toetse (IAT's). In 'n IAT verskyn 'n woord kortliks op 'n skerm en dan ontdek die spoed waarmee mense op die woord reageer hul onderbewuste assosiasies. Vorige IAT's het bevind dat name soos 'Brad' en 'Courtney' geassosieer word met positiewe woorde soos 'gelukkig'. Name wat met kleurgemeenskappe verband hou, word egter 'n negatiewe verband.

Die span het 'n AI-stelsel met 'n soortgelyke assosiasie-styl ontwikkel. Bryson en haar kollegas noem dit die woord inbedding assosiasie toets (WEAT). Hulle begin met die definiëring van 'n woord op grond van die konteks waarin die woord gebruik word. Byvoorbeeld, "ys" en "damp" sal soortgelyke inbeddings hê omdat hulle gereeld saam met "water" gebruik word. Aangesien die rekenaar hierdie woorde as 'n reeks nulle en eenes sien, is dit egter 'n bietjie anders as wat die mens se intuïtiewe begrip van sekere woordparings het.

[Beeldbron: Pixabay]

"'N Belangrike rede waarom ons gekies het om woordbeddings te bestudeer, is dat dit die afgelope paar jaar skouspelagtig suksesvol was om rekenaars sinvol te maak vir taal," het Arvind Narayanan, 'n rekenaarwetenskaplike aan die Princeton Universiteit, gesê.

Die referaat toon dat hoewel gewone woordassosiasies statisties en logies kan wees, meer kommerwekkende vooroordele steeds kan intree. Woorde soos 'vrou' word geassosieer met geesteswetenskappe en artikels van die huis. "Manlik" en "man" het assosiasies met wiskunde en wetenskap gevang.

Die masjienleerinstrument wat deur navorsers ontwikkel is, is opgelei in 'n "algemene kruip" -korpus. Dit het miljarde woorde uit gepubliseerde materiaal aanlyn geneem. Dit is ook opgelei in data van Google News. Vir die span was die uitslae nie 'n verrassing nie.

Sandra Wachter, 'n navorser van data-etiek en algoritmes by Oxford, het gesê: "Die wêreld is partydig, die historiese gegewens is partydig, daarom is dit nie verbasend dat ons bevooroordeelde resultate ontvang nie."

Bryson het ook opgemerk in 'n onderhoud met die voog dat "baie mense sê dat dit wys dat AI bevooroordeeld is. Nee. Dit wys dat ons bevooroordeeld is en dat AI dit leer."

Hierdie masjienleerstelsel kan ons beslis op ons foute roep, maar maak dit AI's inherent rassisties of seksisties? Die span dink nie so nie. Terwyl mense kan lieg oor redes om nie iemand aan te stel nie, kan 'n algoritme nie. Die getalle en inligting wat daardeur verwerk word, verwyder weliswaar gevoelens en aangeleerde vooroordele uit sy stelsels, hoewel dit groot is.

Die bevindings is in die April - uitgawe van die Wetenskap joernaal.

SIEN OOK: Sal kunsmatige intelligensie die einde vir menslike intelligensie spel?


Kyk die video: The best British F1 Racing Driver: Lewis Hamilton. Hamiltons Biography (Augustus 2021).