Mød Diem, den AI-drevne 'sociale søgemaskine', der var beregnet til at føles som din venegruppechat

Lad os for eksempel sige, at du vil vide om, hvor meget det koster at fryse dine æg. Du vil skrive dette spørgsmål i DIEM, og AI-komponenten ville bruge sin bredere internetdatabase og DIEM-brugerkontribut indhold til at generere både et sætningssvar og et længere spørgsmål. Og du ville modtage begge dele sammen med alle de samfundsgenererede indlæg om emnet, i tilfælde af at du var interesseret i at rulle gennem dem.

På denne måde kombinerer DIEM lethed med AI med personalisering af viden fra faktiske kvinder og ikke-binære mennesker-meget slags anekdotisk information og livserfaringer og sladre Ofte deprioriteret af søgemaskiner på grund af bias (mere om det nedenfor). Det er kombinationen, siger Bates, der gør oplysningerne om DIEM både nyttige og direkte anvendelige til mennesker fra disse samfund. ”Den måde, vi altid har tænkt på at bygge, er,” Hvordan kan vi skabe et rum, hvor du kunne søge efter de kollektive indsigter i dine samfund?'" hun siger. ”Hvis du kan opbygge kollektivt med dit samfund, former det stemme, data og erfaring, og det ender med at føle sig anderledes."

Spørgsmålet om kønsfordeling på søgemaskiner og AI -platforme

Fordi kønsfordeling er udbredt i samfundet som helhed, eksisterer det også inden for internet-søgemaskinalgoritmer og brænder for kønsinformationsgabet. Det er det samme kløft, som Bates konfronterede, når man forsøgte at finde relevante, relatable oplysninger om morgenen efter pille i 2018.

Overvej resultaterne af en undersøgelse fra en 2022-undersøgelse, for hvilke forskere så ud til at afgøre, om Google-billeder søger i lande med højere køns-outquality-score (vurderet med Global Gender Gap-indekset) ville også demonstrere en kønsbias. For at gøre det foretog de en søgning efter ordet "person" på det lokale sprog i 37 lande i deres første undersøgelse og 52 lande i deres anden. I alle tilfælde afslørede Google -søgeresultaterne i lande med større niveauer af samfundsmæssig kønsmæssig ulighed også større kønsforskel (hvilket betyder, at en højere procentdel af de første 100 billedresultater viste en mand versus en kvinde).

Nye AI -bots har også vist sig at forevige kønsfordeling. For eksempel, Bloomberg rapporterede, at en beregningsforsker fik chatgpt til at spytte kode ud, der sagde, at kun asiatiske eller hvide mænd ville gøre gode forskere; Virksomhedens administrerende direktør reagerede på videnskabsmanden på Twitter og opfordrede brugerne til at "tommelfingre ned" sådanne svar for at hjælpe programmet med at lære ikke at udbrede bias.

Da jeg stillede Chatgpt et lignende spørgsmål, sagde det, at det ikke er passende at bruge nogens køn eller race for at afgøre, om de ville udmærke sig i et erhverv. Men selvom det ser ud til, at AI i øjeblikket lærer at være mindre partisk, er det stadig afhængigt af objektive, medfølende brugere til at træne det til at være sådan. (Hvorimod DIEM's AI stort set er uddannet i oprettet information af og for Kvinder og ikke-binære mennesker og er derfor ikke underlagt det samme spørgsmål om anti-kvinder bias fra springet.)

"AI er kun så god som de data, de er trænet på, og fordi alle mennesker har bias og fordomme, når deres data bruges, bliver den bias og fordommer en del af AI."-Nina Vasan, MD, psykiater

Disse fund illustrerer, hvordan de forspændinger, vi opretholder som folk, overfører naturligt til de produkter, vi opretter, og de datasæt, som vi bidrager med. "AI er kun så god som de data, de er trænet på, og fordi alle mennesker har bias og fordomme, når deres data bruges, bliver den bias og fordommer en del af AI," siger psykiater Nina Vasan, MD, Chief Medical Officer af digital terapi platform Real og grundlægger og administrerende direktør for Brainstorm: The Stanford Lab for Mental Health Innovation.

Hvordan Diem sigter mod at blive en sjov, informativ søgemaskine specifikt for kvinder og ikke-binære mennesker

I betragtning af Diems tilsigtede brugerdemografiske siger Bates, at hun tænker på de oplysninger, der deles på platformen og genereret af Chatbot som svar på de spørgsmål, folk har, når de er i "ven -scenen" i deres liv; Folk absorberer masser af oplysninger fra venner, når de er i midten af ​​tyverne og begyndelsen af ​​trediverne, siger hun. Ideen med Diem er, at du får perspektiver fra en række mennesker i din alder og kønsidentitet, som du måske ikke har interageret på, og at kollektiv forståelse er til gavn for alle på platformen.

Fordi Diems AI er fodret med information direkte fra folk fra denne demografiske, er det en repræsentativ platform efter design. I øjeblikket har tusinder af kvinder og ikke-binære mennesker stillet spørgsmål og delte svar om DIEM om emner, der er relevante for dem, især i kategorierne af personlig sundhed, penge og forhold.

Mens det stadig lærer, trækker det fra et bredere proprietært datasæt (svarende til det, der befinder sig chatgpt) for at finde oplysninger om spørgsmål, som folk i samfundet endnu ikke har diskuteret. Et punkt med differentiering er dog, at det stadig drejer ud et "opsummeret diem-y-svar" for disse spørgsmål, siger Bates ved hjælp af faktisk Diem Convos til at informere svarets stil og tone.

Men fordi Diem stadig er en AI, der er afhængig af både brugergenereret indhold og det bredere datasæt, er det bestemt ikke immun Til de problemer, som andre søgemaskiner står overfor og AI -chatbots, inklusive falske, vildledende og ja, endda partisk indhold. Til gengæld er der en knap i appen og på skrivebordsversionen for at rapportere misbrug, og platformen har offentliggjort et sæt samfundsretningslinjer, hvilket fremmer ting som "venlighed og nysgerrighed" og "empatisk engagement"-for at sikre brugernes sikkerhed og kvaliteten af ​​informationen.

Diem lanceres i en tid, hvor regeringsembedsmænd i både USA og Den Europæiske Union undersøger måder at regulere AI, stort set på grund af ovenstående bekymringer. I u.S. Specifikt frigav præsident Joe Biden's Office et udkast til en AI Bill of Rights i oktober, en bipartisansk gruppe af u.S. Senatorer ledet af senator Chuck Schumer arbejder med lovgivning for at etablere beskyttelsesrammer omkring branchen, og fire regeringsorganer frigav en fælles erklæring i sidste måned, der skitserer de beføjelser, de har for at regulere industrien mere robust, især mod forskelsbehandling, der skyldes bias.

Men Bates er ikke afskrækket ved at komme ind i dette landskab. Hun forudsiger, at der vil være et "interessant skift i fremtiden for Internettet", hvor folk vil søge information, der henvender sig specifikt til, hvor de er i deres liv. I stedet for at bede Google om dating rådgivning, håber hun, at du snart går til en platform som Diem, som vil give dig svar, der stammer fra mennesker med en lignende levet oplevelse som din egen.

"Lige nu findes vi i monopol, og det påvirker, hvordan vi bruger internettet, og hvad vi forventer af platforme," siger Bates. Når alt kommer til alt afspejler disse monopol ofte bias til fordel for mænd. ”Jeg tror, ​​at fremtiden for internettet vil tilbyde flere nichepræget,” siger hun. Og hvem skal sige, at en niche nødvendigvis er lille? Som Bates påpeger, udgør kvindelige identificerende folk en næsten lige andel af befolkningen på planeten. Og nu er der en kæmpe gruppechat, der venter på deres input.

Den wellness-intel, du har brug for, uden de BS, du ikke tilmelder dig i dag for at have de nyeste (og bedste) velbefindende nyheder og ekspertgodkendte tip leveret direkte til din indbakke.