Bing soovitab kõige halvemaid asju, mida te kujutate
Kui kasutate Bingi pildiotsingut, siis näete kõige halvemat pilku, mida võite ette kujutada. Bing soovitab rassistlikke mõisteid ja näitab kohutavaid pilte. Bing soovitab isegi otsida ärakasutatavaid lapsi, kui teil on SafeSearch keelatud.
Me võtsime ühendust Microsoftiga kommenteerimiseks ja Microsofti vanemdirektor Jeff Jones andis meile järgmise avalduse:
„Võtame väga solvavaid küsimusi väga tõsiselt ja jätkame oma süsteemide täiustamist, et tuvastada ja takistada sellist sisu soovitatud otsinguna. Niipea kui oleme probleemist teadlikud, võtame meetmeid selle lahendamiseks. ”
Uuenda: Alates avaldamisest on Microsoft töötanud meie mainitud solvavate Bing-ettepanekute puhastamisel. Meie uuringute põhjal on veel palju muid solvavaid ettepanekuid, mis pole veel kinnitatud, sealhulgas mõned, mida me allpool mainisime. Me ei ole kindel, kas nad lihtsalt kinnitavad meie välja toodud solvavad esemed või kas nad parandavad algoritmi.
Märge: Siin kuvatud pildid näitavad, mida me nägime, kui kirjutasime selle osa, mis testis USA Bing Image otsingu versiooni Incognito privaatses sirvimissessioonis, kuid Bingi tulemused muutuvad aja jooksul. Google'il ei olnud meie katsete kohaselt ühtegi neist probleemidest. See on Bingi probleem, mitte ainult otsingumootori probleem. Sama probleem mõjutab Bingi videootsingut.
Esiteks, Bing Gets Super Rassist
„Jews” otsing Bing Images'is ja Bing soovitab teil otsida “Evil Jew”. Ülemine tulemused sisaldavad ka memi, mis näib tähistavat surnud juudi rahvaid.
Kõik see ilmub isegi siis, kui Bingi SafeSearchi valik on lubatud, kuna see on vaikimisi. SafeSearch on mõeldud Microsofti sõnul „aitama täiskasvanute sisu otsingutulemustest välja jätta”.
Sellele soovitatud otsingule klõpsamine vallandab rassistliku, antisemitaarse sisu torrendi, rohkem soovitatavaid otsinguid nagu „Juudi rahvas on paha”, „paha juudi rass” ja „miks juudid nii kurjad.
Me kõik teame, et see prügi on veebis olemas, kuid Bing ei tohiks oma otsinguettepanekutega inimesi selle juurde viia.
Sisestage „moslemid“ ja Bing soovitab, et nad on kurjad või terroristid, või lihtsalt oletada, et nad on rumalad.
„Mustade inimeste otsimine” ja Bing viitavad sellele, et mustad inimesed on kole, rumalad, rassistlikud ja isegi metslased.
Seda saab jätkata, klõpsates iga soovitatud otsingul ning näete halvemaid ja halvemaid soovitusi. Näiteks "Mustad inimesed on rumalad" klõpsamine viib "Mustad inimesed on kasutud" ja "Miks mustad inimesed nii lollideks". Klõpsates "Mustad inimesed on kasutud" viib "Black People Suck" ja "I Hate Black People".
Bing surub konspiratsioone, liiga
Bingi pildiotsing oksendab igasuguseid prügi isegi üksikisikute otsimisel. See probleem laieneb ka Bingi videote otsingule.
Otsi "Michelle Obama" Bing'i videotsingist ja kaks ülevalt soovitatud otsingut on "Michelle Obama Transgender Proof" ja "Michelle Obama on mees." Klõpsake seda ja näete vandenõu videoid.
Kas see on parim asi, mida Microsoft tahab, et inimesed näeksid Michelle Obama otsimisel?
SafeSearch blokeerib pornot, kuid mitte rassismi
Häirivaid pornograafiaettepanekuid ja pilte ei kuvata, kui te ei kustuta SafeSearchi. Microsoft ütleb, et SafeSearch hoiab täiskasvanute sisu otsingutulemustest välja, SafeSearch filtreerib selgelt pornograafiat ja mitte rassismi.
SafeSearch on vaikimisi lubatud, mis muudab Bingi otsingutulemused esmapilgul auväärsemaks.
Samas on kõigile-isegi lastele lihtne SafeSearchi keelata. Kõik keegi peab tegema, klõpsates otsingutulemuste paremas ülanurgas valikut „SafeSearch“ ja valige „Off“.!
Ettevõtete võrgustik võiks olla konfigureeritud SafeSearchi rakendamiseks ja Microsoft pakub isegi keerulisi juhiseid SafeSearchi rakendamiseks ühel arvutil. Kuid peaaegu igas seadmes võib igaüks keelata SafeSearchi kahe klõpsuga.
Kõige hullem, Bing soovitab alaealiste laste pilte otsida
Lugeja kirjutas meile, et Bing'i otsimisel „grilliks“ annab sulle tõeline viga, mis annab sulle tõesti visuaalse pornoni. Seejärel muutub probleem palju hullemaks, kuna Bing soovitab teil otsida alaealiste laste pilte.
"Gril" otsimisel soovitame lehekülje ülaosas otsida mõningaid häirivaid asju, sealhulgas “Cute Girl Young 16.”.
Kui klõpsate sellel, soovitab see „Cute Girl Young 12”, „Cute Girl Young 10” ja „Little Girl Modeling Provocately“.
Tulemused on täidetud noorte välimusega mudelite pornograafiaga. Loodame, et nad on kõik 18-aastased või vanemad, kuid kes saavad öelda?
Bing viib teid mööda teed lihtsast kirjavormist kuni 16-aastastele tüdrukutele 10-aastastele tüdrukutele ja see on vastik.
Ka teisi näiteid on lihtne leida. Kui otsite "juustupitsat", mis on lasteporno jaoks 4-klanine slang, soovitab Bing "juustu pizza tüdrukuid".
Bingi pildiotsingu tulemused on keeratud, liiga palju
Kuigi me keskendume siin esitatud otsinguettepanekutele, on tegelikud pildid ka häirivad.
Mõned neist otsingutulemustest sisaldavad alasti alaealiste laste vanni fotosid. Need fotod oleksid tavaliselt head, aga kui nad on segatud hardcore täiskasvanud pornograafia piltidega, on sellest tulenevad otsingutulemused murettekitavad.
Isegi "Bing Images" otsimisel "tüdrukuks" nägime soovitust otsida "purjus tüdrukuid" ja vähemalt ühte kujutlusvõimet.
Kui otsite “eesli”, soovitab Bing otsida “Donkey Show Graphic”, mis viib tulemustele, mis on täis parameetrilisi pilte. Oregonis, kus ma elan, on õiguspärasuse pornograafia omamine ebaseaduslik. See tähendab, et Bing viib mind ebaseadusliku pornograafiani.
Jällegi: Bingi otsingutulemused on imelik ja keerdunud. Bingil on palju suurem ja sügavam probleem kui lihtsalt soovitatud otsingud, kuigi need ettepanekud muudavad probleemi palju halvemaks.
Oleme kuulnud, et Bing on pornograafia valikumootor, kuid see ei tohiks juhtida oma kasutajaid üha enam äärmuslikeks, häirivateks ja potentsiaalselt ebaseaduslikeks pornograafiateks.
Microsoft peab oma platvorme mõõdukaks muutma
Microsoft vajab Bingit paremini. Microsoft on varem loonud platvormid, vabastanud need maailmas ja ignoreerinud neid, kui nad halbaks muutusid
Me oleme seda näinud ikka ja jälle. Microsoft vallandas Twitteris vestlusboti nimega Tay. See chatbot muutus kiiresti natsiks ja teatas, et "Hitler oli õige, kui ma vihkan jews'it" pärast seda, kui ta on õppinud teistelt sotsiaalmeedia kasutajatelt. Microsoft pidi seda võrguühenduseta.
Me avaldasime eelnevalt Windows 8 Store'i, mis sai pettuse rakenduste sulgemisest pärast seda, kui Microsoft käivitas Windows 8-i ja tundus, et see peatab rakenduste esituste modereerimise. Pärast probleemi avamist on Microsoft pööranud rohkem tähelepanu Windows 10 poodile.
See probleem mõjutab kõiki ettevõtteid, kes alustavad platvormi. Google on loobunud teenusest Google+, kuid teenus Google+ on ikka veel käivitatud. Nii et ISIS on pärast Twitterist ja Facebookist keelatud migreerunud teenusesse Google+. Kulus aega, kuni keegi isegi märkas, kuni The Hill tegi. Nüüd sulgeb Google Google+ pärast olulise privaatsuse vea avastamist.
Aastal 2013 leidis The Guardian, et Amazonil müüdi riietusfirma Solid Gold Bomb, mis müüs lugemist “Keep Calm and Rape a Lot”. Algoritm oli loonud need särgid ja Amazon pidi need käsitsi eemaldama.
Microsoft ei saa lihtsalt platvormi lahti saada ja ignoreerida. Sellised ettevõtted nagu Microsoft ja Google on kohustatud oma platvorme mõõdukalt hoidma ja õudust hoidma.
Ettepanekutel on tõsiste probleemide ajalugu
Muidugi ei ole Microsofti meeskond neid soovitusi valinud. Bing soovitab automaatselt otsinguid teiste inimeste otsingute põhjal. See tähendab, et paljud Bing Images kasutajad otsivad antisemitismi, rassismi, lastepornot ja headust. Lihtsalt mõtled selle pärast, et tunned end määrdunud.
Ka teised ettevõtted on selle vastu võitlema. Aastal 2016 märkis The Guardian, et võiksite Google'isse kirjutada “on jews” ja see tähendab, et “on jews evil”. Aastal 2018 teatas Wired, et kirjutades „Hitler on“ Google'isse, viis „Hitler minu kangelane.” Google pidi need probleemid ka pärast seda märkima..
Isegi Apple'i Siri soovitas veebisaite, mis lükkasid vandenõu veebisaite ja teisi võltsitud uudiseid, nagu Buzzfeed News teatas. Apple pidi Siri fikseerima. Igaühel on lihtsalt jooksmine ja tulekahjud, sest arvutid õpivad halbadest inimestest halbu asju.
Nüüd on Microsofti kord. Microsofti ülesanne on puhastada Bing. Suurem otsingumootor (ja eriti see, mis muutub üha raskemaks, et vaikimisi välja lülitada Windows 10-sse) ei tohiks soovitada oma kasutajatel otsida rassistlikku prügi ja alaealiste laste pilte.
Pildi krediit: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
