Zoznámte sa s Diem, „sociálnym vyhľadávacím nástrojom“ poháňaným AI, ktorý mal pocit, že sa chat na skupinu vašich priateľov

Napríklad povedzme, že chcete vedieť o tom, koľko stojí zmrazenie vajec. Túto otázku by ste zadali do Diem a komponent AI by využíval svoju širšiu internetovú databázu a obsah používateľa DieM na generovanie odpovede na jednu vetu a dlhšiu. A dostali by ste oboje spolu so všetkými príspevkami generovanými komunitami na túto tému pre prípad, že by ste ich zaujímali o ich posúvanie.

Týmto spôsobom Diem kombinuje ľahkosť AI s prispôsobením vedomostí od skutočných žien a ne-binárnych ľudí-veľmi druh neoficiálnych informácií a životných skúseností a klebeta často deprioritizované vyhľadávacími nástrojmi v dôsledku zaujatosti (viac o tom nižšie). Je to kombinácia, ktorú hovorí Bates. „Spôsob, akým sme vždy mysleli na stavbu, je:„ Ako môžeme vytvoriť priestor, v ktorom by ste mohli hľadať kolektívne poznatky svojich komunít?'" ona povedala. „Ak dokážete vybudovať kolektívne so svojou komunitou, formuje hlas, údaje a skúsenosti a nakoniec sa cíti inak."

Otázka rodovej zaujatosti vo vyhľadávačoch a platformách AI

Pretože rodové zaujatosť v spoločnosti ako celku prevláda, existuje aj v rámci algoritmov na vyhľadávacích strojoch na internete a podporuje rozdiely v oblasti rodovej informatiky. Je to rovnaká medzera, ktorú Bates konfrontoval, keď sa v roku 2018 snažil nájsť uplatniteľné a relatívne informácie o rannej pilulke po.

Ako dôkaz, zvážte výsledky štúdie z roku 2022, pre ktorú vedci zistili, či vyhľadávanie obrázkov Google v krajinách s vyšším skóre rodovej čela (hodnotené pomocou globálneho indexu rodových medzery) by tiež preukázalo rodovú zaujatosť. Aby tak urobili, uskutočnili hľadanie slova „osoba“ v miestnom jazyku 37 krajín v ich prvej štúdii a 52 krajín v ich druhej. Vo všetkých prípadoch výsledky vyhľadávania Google v krajinách s vyššou úrovňou spoločenskej rodovej nerovnosti odhalili aj väčšie rodové rozdiely (čo znamená, že vyššie percento z prvých 100 výsledkov obrazu ukázalo muža verzus žena).

Zistilo sa tiež, že nové AI roboty zachovávajú rodovú zaujatosť. Napríklad, Bloomberg uviedli, že výpočtový vedec dostal chatgpt, aby vyplnil kód, ktorý povedal, že iba ázijskí alebo bieli muži urobia dobrých vedcov; Generálny riaditeľ spoločnosti reagoval na vedca na Twitteri a povzbudil používateľov, aby „palec dole“ takéto odpovede, aby pomohli programu naučiť sa nepodporovať zaujatosť.

Keď som položil podobnú otázku Chatgpt, povedal, že nie je vhodné používať niekoho pohlavie alebo preteky, aby sme zistili, či vynikajú v povolaní. Ale aj keď sa zdá, že AI sa v súčasnosti učí byť menej zaujatá, stále sa spolieha na objektívnych a súcitných používateľov, aby ho takto školili tak, aby boli. (Zatiaľ čo Diem's ​​AI je do značnej miery vyškolená na vytvorené informácie okolo a pre Ženy a binárne ľudia, a preto nepodliehajú rovnakému problému predpojatosti proti ženským skokom.)

„AI je iba rovnako dobrá ako údaje, na ktorých je vyškolený, a pretože všetci ľudia majú zaujatosť a predsudky, keď sa ich údaje použijú, že zaujatosť a predsudky sa stávajú súčasťou AI.„-Nina Vasan, MD, psychiater

Tieto zistenia ilustrujú, ako si zachovávame zaujatosti, ako sa ľudia prirodzene prenášajú do produktov, ktoré vytvárame, a na súbory údajov, ku ktorým prispievame. „AI je iba rovnako dobrá ako údaje, na ktorých sú trénované, a pretože všetci ľudia majú zaujatosť a predsudky, keď sa ich údaje použijú, že zaujatosť a predsudky sa stávajú súčasťou AI,“ hovorí psychiater Nina Vasan, MD, hlavný lekársky úradník Platformy digitálnej terapie skutočný a zakladateľ a výkonný riaditeľ spoločnosti Brainstorm: Stanford Lab pre inovácie v oblasti duševného zdravia.

Ako sa Cieľom spoločnosti Diem, je stať sa zábavným a informatívnym vyhľadávačom špeciálne pre ženy a ne-binárnych ľudí

Vzhľadom na demografickú skupinu používateľa spoločnosti Diem hovorí, že si myslí, že si myslí, že informácie zdieľané na platforme a generované chatbotom ako odpovede na otázky, ktoré majú ľudia, keď sú v „priateľskej fáze“ svojho života; Ľudia absorbujú veľa informácií od priateľov, keď sú vo svojich dvadsiatych rokoch a na začiatku tridsiatych rokov, hovorí. Myšlienka Diem je taká, že získavate perspektívy od rôznych ľudí vo vašom veku a rodovej identity, s ktorými ste inak nemohli interagovať, a že kolektívne porozumenie prospieva všetkým na platforme.

Pretože Diem's ​​AI je kŕmená informáciami priamo od ľudí tejto demografickej skupiny, je to reprezentatívna platforma podľa návrhu. Odteraz tisíce žien a ne-binárnych ľudí položili otázky a zdieľali odpovede na Diem o témach, ktoré sú pre nich dôležité, najmä v kategóriách osobného zdravia, peňazí a vzťahov, ktoré je miesto, kde je Diemova AI najlepšie vyškolená.

Aj keď sa to stále učí, ťahá sa zo širšieho patentovaného súboru údajov (podobne ako ten, ktorý poháňa chatgpt), aby našla informácie o otázkach, o ktorých ľudia v komunite ešte nehovorili. Zmyslom diferenciácie je však to, že pre tieto otázky stále točí „zhrnutú odpoveď Diem-y“, hovorí Bates, ktorý používa skutočný Diem Convos, aby informoval štýl a tón odpovede.

Pretože však Diem je stále AI, ktorá sa spolieha na obsah generovaný používateľmi a na širší súbor údajov, určite to nie je imúnna K problémom, ktorým čelia ďalšie vyhľadávacie nástroje a chatboty AI, vrátane falošných, zavádzajúcich a, áno, dokonca aj zaujatým obsahom. Na druhej strane je v aplikácii a vo verzii pre stolné počítače tlačidlo na hlásenie zneužívania a platforma uverejnila súbor pokynov pre komunitu, ktoré propagujú veci ako „láskavosť a zvedavosť“ a „empatická angažovanosť“-zabezpečiť bezpečnosť svojich používateľov, aby sa zabezpečila bezpečnosť svojich používateľov a kvalita informácií.

Diem sa začína v čase, keď vládni úradníci v Spojených štátoch a Európskej únii skúmajú spôsoby regulácie AI, najmä kvôli vyššie uvedeným obavám. V u.Siež. Konkrétne kancelária prezidenta Joea Bidena vydala v októbri návrh zákona o právach AI, dvojstranná skupina U.Siež. Senátori pod vedením senátora Chucka Schumera pracujú na právnych predpisoch na založení zábradlia v celom odvetví a štyri vládne agentúry minulý mesiac zverejnili spoločné vyhlásenie, v ktorom sa uvádzajú právomoci, ktoré majú na reguláciu odvetvia dôkladnejšie, najmä proti diskriminácii, ktorá je výsledkom zaujatosti.

Ale Bates nie je odradený vstupom do tejto krajiny. Predpovedá, že v budúcnosti internetu bude „zaujímavý posun“, kde ľudia budú hľadať informácie, ktoré sa osobitne starajú o to, kde sú vo svojom živote. Namiesto toho, aby požiadala spoločnosť Google o radu na zoznamovanie, napríklad dúfa, že čoskoro pôjdete na platformu, ako je Diem, ktorá vám poskytne odpovede odvodené od ľudí s podobným živým zážitkom ako váš vlastný.

„Práve teraz existujeme v monopoloch a to ovplyvňuje to, ako používame internet a čo očakávame od platforiem,“ hovorí Bates. Koniec koncov, tieto monopoly často odrážajú zaujatosť v prospech mužov. „Myslím si, že budúcnosť internetu bude ponúknuť viac skúseností s nimi,“ hovorí. A kto hovorí, že výklenok je nevyhnutne malý? Ako zdôrazňuje Bates, ľudia, ktorí identifikujú ženy, tvoria takmer rovnaký podiel ľudí na planéte. A teraz je tu obrovský skupinový rozhovor na ich vstup.

Wellness Intel, ktorý potrebujete bez BS, ktoré sa dnes nezaregistrujete, aby ste mali najnovšie (a najväčšie) blahobytové správy a tipy schválené odborníkom dodané priamo do vašej doručenej pošty.