Cara Google ngabéréskeun kalimat urang salami milarian internét ngarusak pikiran urang, saur Tom Chatfield.
"Awéwé teu kedah gaduh hak." "Awéwé teu kedah milih." "Awéwé teu kedah dianggo." Kumaha kaprah kapercayaan ieu? Numutkeun kana kampanye PBB anyar-anyar ieu, seksisme sapertos kitu umumna umum, sareng éta sababna aranjeunna nyebarkeun sentimen ieu dina séri poster. Sumberna? Pernyataan ieu mangrupikeun saran anu paling luhur anu ditawarkeun ku alat milarian "instan" Google nalika kecap "Awéwé teu kedah ..." diketik dina kotak teang na.
Google Instan mangrupikeun jasa "otomatis lengkep" - anu, sakumaha nami nunjukkeun, sacara otomatis nunjukkeun hurup sareng kecap pikeun ngalengkepan pamundut, dumasar kana pangaweruh perusahaan ngeunaan milyaran pamilarian anu dilakukeun di sakumna dunya unggal dinten. Upami kuring ngalebetkeun kecap "awéwé kedah," saran nomer hiji dina layar kuring sorangan nyaéta "kantong taktak awéwé," dituturkeun ku anu langkung nekenkeun "awéwé kedah ditingali sareng henteu didangu." Upami kuring ngetik "lalaki kedah", saran enigmatic "lalaki kedah ceurik" muncul.
Argumen balik kampanye PBB éta algoritma ieu nawarkeun glimpse kana psyche koléktif urang - sarta hiji disturbing dina éta. Ieu bener bener? Henteu dina harti yén kampanye nunjukkeun. Autocomplete bias sareng kakurangan ku sababaraha cara, sareng aya bahaya di hareup upami urang hilap éta. Nyatana, aya kasus anu saé anu anjeun kedah pareum sadayana.
Sapertos seueur téknologi anu paling suksés di dunya, tanda kasuksesan autocomplete nyaéta sakedik urang perhatikeunana. Langkung saé éta damel, langkung lancar antisipasina cocog sareng ekspektasi urang - dugi ka titik anu paling katingali nalika aya anu henteu gaduh fitur ieu, atanapi Google ujug-ujug lirén ngantisipasi kabutuhan urang. Ironisna nyaéta beuki loba usaha anu dilumangsungkeun sangkan hasilna katingalina mulus, beuki unvarnished jeung jujur hasilna karasaeun ka pamaké. Nyaho naon "sarerea" nyangka ngeunaan sagala masalah atawa patarosan tinangtu saukur hartina dimimitian ngetik, sarta ningali jawaban nulis sorangan dihareupeun ramo urang ngetok.
Tapi, sapertos algoritma pamilarian anu sanés, autocomplete nyampur saos rusiah titik data handapeun antarmuka anu gampang. Basa anjeun, lokasi sareng waktos mangrupikeun faktor utama dina hasil, sapertos ukuran dampak sareng keterlibatan - teu kedah disebatkeun sajarah browsing anjeun sareng "kesegaran" tina topik naon waé. Dina basa sejen, naon autocomplete eupan anjeun teu gambar lengkep, tapi naon Google antisipasi rék. Ieu teu ngeunaan bebeneran mere; éta ngeunaan "relevansi".
Ieu sateuacan anjeun asup kana sénsor. Maklum, Google nyegah istilah-istilah anu dipikaresep pikeun ngadorong ilegalitas atanapi bahan anu henteu cocog pikeun sadaya pangguna, sareng seueur rumusan anu aya hubunganana sareng daérah sapertos kabencian ras sareng agama. Daptar parusahaan "queries pilarian berpotensi pantes" terus diropéa.
Premis palsu
Euweuh ieu kudu warta pikeun pamaké web savvy. Tapi seueur réaksi kana kampanye Awéwé PBB nunjukkeun, pikeun kuring, ngandelkeun kaahlian algoritma anu aya watesna sareng iman buta. "Iklan éta ngareureuwas," dipedar salah sahiji copywriters tukangeun aranjeunna, "sabab aranjeunna némbongkeun ngan sabaraha jauh urang masih kudu indit pikeun ngahontal sarua génder." Implikasina nyaéta yén hasil-hasil ieu matak pikahariwangeun sabab henteu memihak: bukti prasangka anu teu ambigu dina skala global. Acan, bari tujuan kampanye téh alus, bukti ti Google jauh ti lugas.
Bahaya anu paling ageung, nyatana, nyaéta darajat anu ngahasilkeun jawaban sakedapan gaduh kakuatan henteu ngan ukur pikeun ngagambarkeun tapi ogé ngarobih naon anu dipercaya ku dunya - sareng ngalakukeunana handapeun tingkat perdebatan sadar. Autocomplete bakal katingali salaku wujud nubuat, lengkep sareng uleman anu nyumponan diri pikeun klik sareng satuju. Acan ku letting hiji algoritma rengse pikiran urang, urang nyumbang kana loop eupan balik nu berpotensi reinforces untruths na misconceptions pikeun searchers hareup.
Pertimbangkeun kasus lalaki Jepang anu, awal taun ieu, ngetik namina kana Google sareng mendakan otomatis ngahubungkeun anjeunna sareng tindakan kriminal. Anjeunna meunang hiji kasus pangadilan compelling parusahaan pikeun ngaropéa hasil. Kasus Jepang ngageungkeun conto saméméhna di Australia dimana, sacara efektif, algoritma autocomplete dihukum kaliru tina fitnah saatos ngusulkeun kecap "bangkrut" ditambah kana nami dokter. Sareng seueur conto sanés anu kedah dipilih.
Sajauh salaku insinyur Google prihatin, ieu mangrupikeun blips dina data. Naon anu aranjeunna nawiskeun nyaéta efisiensi anu kantos ningkatkeun: kolaborasi antara manusa sareng mesin anu ngahémat waktos, ngaleungitkeun kasalahan sareng frustrasi, sareng ngabeungharan kahirupan urang ku data anu terus-terusan. Sadayana leres - sareng teu aya anu ngaganggu pikeun sadayana éta.
Salaku kaca pitulung parusahaan nempatkeun eta, "sanajan anjeun teu nyaho persis naon nu ditéang, prediksi mantuan pituduh pilarian Anjeun." Google geus ngawangun sistem nu ngaklaim uninga teu ukur kahayang kuring, tapi umat manusa sorangan, hadé ti kuring kantos bisa ngatur - sarta eta gently rams kanyataan handap tikoro kuring unggal waktu kuring mimiti ngetik.
Naha anjeun terang yén anjeun tiasa mareuman ngalengkepan otomatis ku cara ngarobah hiji setelan? Abdi nyarankeun anjeun nyobian éta, upami ngan ukur ngalakukeun tés saderhana: naha gaduh komputer harewos dina ceuli anjeun ngarobih cara mikir ngeunaan dunya? Atanapi, tangtosna, anjeun tiasa naroskeun ka Google sorangan. Pikeun kuring, ngetik "nyaeta Google autocomplete ..." ditawarkeun frase réngsé "naha Google autocomplete lulucon a?". Hanjakal, jawaban téh nanaon tapi.
BBC
