Kontaktirali smo Microsoft za komentar, a Jeff Jones, viši direktor tvrtke Microsoft, dao nam je sljedeću izjavu:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
ažuriranje: Od objavljivanja, Microsoft je radio na čišćenju napadačkih prijedloga Bing koje smo spomenuli. Na temelju našeg istraživanja, još uvijek postoje mnogi drugi uvredljivi prijedlozi koji još nisu fiksirani, uključujući i nekoliko koje smo spomenuli u nastavku. Nismo sigurni ukoliko jednostavno popravljaju uvredljive stavke koje smo istaknuli, ili ako unaprjeđuju algoritam.
Bilješka: Snimci zaslona prikazuju ono što smo vidjeli kada smo napisali ovaj komad koji ispituje američku verziju pretraživanja Bing slika u sesiji za anonimno privatno pregledavanje, ali se Bingovi rezultati s vremenom mijenjaju. Google nije imao bilo koji od ovih problema, prema našim testovima. Ovo je problem Bing, a ne samo problem s tražilicom. Isti problem utječe na Bingovo pretraživanje videozapisa.
Prvo, Bing dobiva super rasist
Pretraživanje "Židova" na Bing Slike i Bing sugerira da tražite "Zlo Židov". Najbolji rezultati uključuju i meme koji izgleda kao da slavi mrtve židovske ljude.
Sve se to pojavljuje čak i kada je omogućena značajka Bingova SafeSearch, kao i po defaultu. Sigurno pretraživanje dizajnirano je da "pomaže u održavanju sadržaja za odrasle iz rezultata pretraživanja", prema Microsoftu.
Svi znamo da taj smeće postoji na webu, ali Bing ne bi trebao voditi ljude s njim svojim prijedlozima za pretraživanje.
Možete nastaviti ovako, kliknuti na svako predloženo pretraživanje i vidjeti gore i gore preporuke. Na primjer, klikom na "Crni ljudi su glupi" dovodi do "Crnci su beskorisni" i "Zašto su crni ljudi toliko glupi". Klikom na "Crnci su beskorisni" dovodi do "crnaca sisati" i "mrzim crne ljude".
Bing gura supružništvo, previše
Bingova pretraga slika povraća sve vrste smeća, čak i kada traži pojedince. Ovaj se problem također proteže na Bingov video pretraživanje.
Traži "Michelle Obama" na Bingovom pretraživanju videozapisa i dvije od glavnih preporučenih pretraživanja su "Michelle Obama Transgender Proof" i "Michelle Obama je muškarac." Kliknite na to i vidjet ćete video o zavjeri.
Je li to najvažnija stvar koju Microsoft želi vidjeti kad traže Michelle Obama?
Sigurno pretraživanje blokira porno, ali ne rasizam
Uznemirujuće prijedloge i slike pornografije ne prikazuju se ako ne onemogućite Sigurno pretraživanje. Dok Microsoft kaže da SafeSearch zadržava sadržaj za odrasle iz rezultata pretraživanja, Sigurno pretraživanje jasno filtrira pornografiju, a ne rasizam.
Standardno je omogućeno Sigurno pretraživanje, što čini Bingovim rezultatima pretraživanja na prvi pogled više respektabilnim.
Međutim, za svakoga - čak i za djecu - lako je onemogućiti Sigurno pretraživanje. Sve što netko mora učiniti jest kliknuti opciju "Sigurno pretraživanje" u gornjem desnom kutu rezultata pretraživanja i odaberite "Isključeno". To je to!
Mreža tvrtke mogla bi biti konfigurirana za provođenje SafeSearcha, a Microsoft čak nudi složene upute za provođenje SafeSearcha na jednom računalu. No, na gotovo svakom uređaju svatko može onemogućiti Sigurno pretraživanje s dva klika.
Najgore od svega, Bing sugerira potragu za slikama malodobne djece
Čitatelj je napisao da nam kaže da pogreška pri pretraživanju Binga za "roštilj" vam daje stvarno skriveno porno. Problem tada postaje mnogo gori, a Bing sugerira da traži slike maloljetne djece.
Kada tražite "gril", prijedlozi na vrhu stranice preporučuju da tražite neke uznemirujuće stvari, uključujući "Slatka djevojka mladih 16."
Rezultati su ispunjeni pornografijom mladih modela. Nadamo se da su oni svih 18 godina ili stariji, ali tko može reći?
Bing vas vodi od jednostavne pogreške do 16-godišnjih djevojaka do 10-godišnjaka, i to je odvratno.
Bingovi rezultati pretraživanja slike također su prekinuti
Dok se ovdje usredotočuju na prijedloge za pretraživanje, stvarne slike koje se pojavljuju također su uznemirujuće.
Neki od tih rezultata pretraživanja sadrže fotografije u kojima se nalaze kupke gole maloljetne djece. Ove fotografije normalno bi bile u redu, ali kada se pomiješaju sa slikama o pornografiji odraslih odraslih osoba, rezultirajući rezultati pretraživanja su alarmantni.
Čak i kada pretražujemo Bing Slike za "djevojku", vidjeli smo prijedlog za traženje "pijanih djevojaka" i barem jednu sliku ludosti.
Kada tražite "magarca", Bing sugerira da tražite "Donkey Show Graphic", što dovodi do rezultata punih slika. Posjedovanje seksualne pornografije ilegalno je u Oregonu, gdje živim. To znači da me Bing vode u ilegalnu pornografiju.
Opet: Bingovi rezultati pretraživanja su čudni i upleteni. Bing ima mnogo veći, dublji problem od predloženih pretraživanja, iako ti prijedlozi čine problem mnogo gore.
Čuli smo da je Bing tražilica izbora za pornografiju, ali ne smije voditi svoje korisnike na sve više i više ekstremnih, uznemirujućih i potencijalno nezakonitih pornografija.
Microsoft treba umjeriti svoje platforme
Vidjeli smo kako se to događa iznova i iznova. Microsoft je jednom oslobodio chatbot po imenu Tay na Twitteru. Ovaj chatbot se brzo pretvorio u naciste i proglasio "Hitler je bio u pravu mrzim židove" nakon što sam naučio od drugih korisnika društvenih medija. Microsoft je morao izvesti offline.
Prethodno smo izložili trgovinu u sustavu Windows 8, koja je postala mješavina aplikacija za muljaža nakon što je Microsoft pokrenuo sustav Windows 8 i činilo se da prestane moderirati podneske aplikacije. Microsoft je više pažnje posvetio trgovini sustava Windows 10 nakon što je taj problem bio izložen.
Ovaj problem utječe na svaku tvrtku koja pokreće platformu. Google je odustao od Google+, ali Google+ i dalje je pokrenut. Tako je ISIS preselio na Google+ nakon što je zabranjen od Twittera i Facebooka. Trebalo je mjesecima da bi itko mogao primijetiti sve dok The Hill nije učinio. Sada Google zatvara Google+ nakon što su otkrili značajnu bugovu privatnost.
Godine 2013. The Guardian je pronašla tvrtku za odjeću pod imenom Solid Gold Bomb koja je prodala čitajući knjige "Keep Calm and Rape a Lot" na Amazonu. Algoritam je stvorio te košulje i Amazon ih je morao ručno ukloniti.
Microsoft ne može samo pretvoriti platformu na svijet i ignorirati ga. Tvrtke poput Microsofta i Googlea imaju odgovornost umjeriti svoje platforme i zadržati užas u uvali.
Prijedlozi imaju povijest ozbiljnih problema
Naravno, ne postoji tim ljudi u Microsoftu koji bi odabrali te prijedloge. Bing automatski predlaže pretraživanja na temelju pretraživanja drugih ljudi. To znači da mnogi korisnici Bing Slike traže antisemitizam, rasizam, dječju pornografiju i zlostavljanje. Samo razmišljam o tome da se osjećate prljavim.
Druge su se tvrtke također borile s time. Godine 2016. The Guardian primijetio je da biste mogli upisati "jesu" u Google i sugeriraju da su "židovi zli." Google je nakon tih prijava izašla iz ovih loših prijedloga, ali problem se ponovno pojavio. Godine 2018. Wired je izvijestio da upisivanjem "Hitler je" u Google dovelo je do "Hitler je moj junak". Google je morao popraviti te probleme nakon što su istaknute.
Čak je i Appleov Siri predložio da web stranice potisnu web stranice zavjere i druge lažne vijesti, kako je izvijestio Buzzfeed News. Apple je morao popraviti Siri. Svatko se samo trči i gasi vatre dok računala nauče loše stvari od loših ljudi.
Sada je Microsoftov red. Microsoft ima odgovornost za čišćenje Binga. Glavna tražilica (a posebno ona koja sve više postaje zadana ugrađena zadana inačica ugrađena u sustav Windows 10) ne bi smjela sugerira da korisnici traže rasističke smeće i slike maloljetne djece.
