AI er nu en destruktiv steward for diætkultur

Efter dækning fra en række medier, der skitserede Tessas vedrørende svar, besluttede lederskab i Neda i sidste ende at suspendere Tessa i slutningen af ​​maj. ”Tessa vil forblive offline, mens vi afslutter en fuld gennemgang af, hvad der skete,” sagde Neda's Chief Operating Officer Elizabeth Thompson i en e -mail -erklæring til godt+god i juni. Organisationen siger, at BOT's udvikler tilføjede generativ kunstig intelligens (AI) funktioner til Tessa uden dens viden eller samtykke. (En repræsentant fra softwareudvikleren, Cass, fortalte Wall Street Journal at det fungerede i overensstemmelse med sin kontrakt med Neda.)

Hele hændelsen lød alarmklokker for mange i spisepladsen med spisende-beskidte gendannelse. Jeg vil dog hævde, at kunstig intelligens ofte fungerer nøjagtigt som designet. ”[AI afspejler bare den kulturelle mening om diætkultur,” siger Christine Byrne, Rd, MPH, en anti-diæt diætist, der er specialiseret i behandling af spiseforstyrrelser.

Som det magiske spejl i Sne hvid, Hvilket besvarede den onde dronningens hvert spørgsmål, vi søger AI for at give os klare svar i en usikker, ofte modstridende verden. Og ligesom det magiske spejl reflekterer AI tilbage til os sandheden om os selv. For den onde dronning betød det at være den faireste i landet. Men i vores nuværende diætkultur-stepede samfund er AI simpelthen at "spejle" Amerikas vedvarende fiksering på vægt og tyndhed-og hvor meget arbejde vi endnu ikke har gjort for at bryde denne trylleformular.

Hvordan AI-drevne råd fungerer

"Kunstig intelligens er enhver computerrelateret teknologi, der prøver at gøre de ting, som vi forbinder med mennesker med hensyn til deres tænkning og læring," siger Kush Varshney, ph.d. Watson Research Center i Yorktown Heights, NY. AI bruger komplekse algoritmer til at efterligne menneskelige færdigheder som at genkende tale, tage beslutninger og se og identificere genstande eller mønstre. Mange af os bruger AI-drevet tech hver eneste dag, som at bede Siri om at indstille en påmindelse om at tage medicin eller bruge Google Translate til at forstå det ord på en fransk restaurant menu.

Der er mange forskellige underkategorier af AI; Her fokuserer vi på tekstbaserede AI-værktøjer som chatbots, som hurtigt bliver mere sofistikerede som bevist ved debut af Chatbot Chatgpt's lancering i efteråret 2022. ”[AI-baserede chatbots] er meget, meget gode til at forudsige det næste ord i en sætning,” siger Eric Lehman, en ph.d.-kandidat ved Massachusetts Institute of Technology. Dr. Lehmans forskningscentre om naturlig sprogbehandling (hvilket betyder, at en computers evne til at forstå menneskelige sprog), som giver denne type software mulighed for at skrive e -mails, besvare spørgsmål og mere.

På de enkleste termer, der er mulige, lærer tekstbaserede AI-værktøjer at efterligne menneskelig tale og skrivning, fordi de får det, der kaldes "træningsdata". Derfra, dr. Varshney siger, at computeren analyserer sprogmønstre (for eksempel: hvad det betyder, når visse ord følger andre; hvordan udtryk ofte bruges i og ud af sammenhæng) for at kunne gentage det overbevisende. Softwareudviklere vil derefter finjustere disse data og dens læringer til at "specialisere" bot til dens særlige brug.

Fra denne træning får du to generelle applikationskategorier: forudsigelig AI og generativ AI. Ifølge dr. Varshney, forudsigelig AI arbejder med et fast sæt mulige svar, der er forprogrammeret til et specifikt formål. Eksempler inkluderer auto-responser inde i din e-mail, eller data dine bærbare enheder giver dig om din krops bevægelse.

Generativ AI er dog designet til at skabe helt nyt indhold inspireret af hvad det ved om sprog og hvordan mennesker taler. ”Det genererer fuldstændigt output uden begrænsning af, hvilke muligheder der kunne være,” Dr. Siger Varshney. Gå ind i ChatGpt, det mest kendte generative AI-program til dato, og du kan bede det om at skrive bryllupsløfter, en prøve Seinfeld script eller spørgsmål at stille i et jobsamtale baseret på ansættelseslederens bio. (Og meget, meget mere.)

Men igen ved ai chatbots kun, hvad der er tilgængeligt for dem at analysere. I nuancerede, følsomme og stærkt personaliserede situationer, som f.eks.

De nuværende begrænsninger af AI -tekstværktøjer til information om sundhed og ernæring

Der er enormt potentiale for generative AI i sundhedspleje, siger Dr. Varshney; Det bruges allerede til at hjælpe læger med kortlægning, hjælp til kræftdiagnoser og plejebeslutninger og mere. Men når du først begynder at grave, bliver risikoen for generativ AI for direkte at give forbrugerne sundheds- eller ernæringsoplysninger temmelig klare.

Da disse modeller typisk trækker information fra hele internettet i stedet for specifikt, at der er overvåget kilder-og sundhedsbaseret information på nettet er notorisk unøjagtigt-du bør ikke forvente. Lehman. Det afspejler heller ikke den banebrydende medicinske mening, da mange værktøjer, som ChatGpt, udelukkende har adgang til oplysninger, der var online i 2019 eller tidligere.

Eksperter siger, at disse meget menneskelige lydende værktøjer kunne bruges til at erstatte professionel pleje og indsigt. ”Problemet med folk, der prøver at få sundheds- og generel wellness -rådgivning online, er, at de ikke får det fra en sundhedsudøver, der kender til deres specifikke behov, barrierer og andre ting, der muligvis skal overvejes,” siger Amanda Raffoul, Ph.d., instruktør i pædiatri ved Harvard Medical School og forsker ved Harvard Striped, en folkesundhedsinkubator, der er afsat til at forhindre spiseforstyrrelser.

Desuden har alles krop forskellige sundhedsmæssige og ernæringsmæssige behov afhængigt af deres unikke genetiske makeup, tarmmikrobiome, underliggende sundhedsmæssige forhold, kulturel kontekst og mere-og disse individuelle behov ændres også på daglig basis på daglig basis. AI har ikke i øjeblikket kapacitet til at vide det. ”Jeg fortæller konstant mine klienter, at vi ikke er robotter,” siger Dalina Soto, RD, LDN. ”Vi tilslutter ikke og ud dagligt, så vi har ikke brug for det samme beløb dagligt. Vi har hormoner, følelser, stress, liv, bevægelse-så mange ting, der påvirker, hvordan vi brænder og bruger energi ... men fordi AI kan spytte en ligning ud, tænker folk, Okay, dette skal være rigtigt."

”Jeg fortæller konstant mine klienter, at vi ikke er robotter. Vi tilslutter ikke og ud dagligt, så vi har ikke brug for det samme beløb dagligt. Vi har hormoner, følelser, stress, liv, bevægelse-så mange ting, der påvirker, hvordan vi brænder og bruger energi."
-Dalina Soto, RD, LDN

Der er også en enorm værdi i menneskelig forbindelse, som en bot bare ikke kan erstatte, tilføjer dr. Conason. ”Der er bare noget ved at tale med et andet menneske og føle sig hørt og set og valideret, og at have nogen der med dig i et rigtig mørkt øjeblik ... det er virkelig magtfuldt. Og jeg tror ikke, at en bot nogensinde kan imødekomme dette behov."

Endnu mere angående er de kendte sociale biasproblemer med AI -teknologi, især det faktum, at AI -algoritmer ofte afspejler eksisterende samfundsmæssige fordomme mod visse grupper, herunder kvinder, mennesker af farve og LGBTQ+ mennesker. En undersøgelse fra 2023, der kiggede på Chatgpt, fandt, at chatboten meget let kunne producere racistiske eller problematiske svar afhængigt af den prompt, den blev givet. ”Vi finder om mønstre, hvor specifikke enheder-for eksempel, visse racer-er målrettet i gennemsnit tre gange mere end andre uanset den tildelte persona. Dette afspejler iboende diskriminerende partier i modellen, ”skrev forskerne.

Men ligesom mennesker er AI ikke nødvendigvis "født" fordømt. Det lærer Bias-fra os alle. Tag træningsdata, som som nævnt typisk er sammensat af tekst (artikler, informative websteder og undertiden sociale mediesider) fra hele nettet. ”Dette sprog, der er ude på internettet, har allerede en masse sociale partier,” siger Dr. Dr. Varshney. Uden afbødning vil et generativt AI-program samle op på disse forspændinger og indarbejde dem i dets output, hvilket kan informere-og forkert sådiagnoser og behandlingsmuligheder. Valgsudviklere, når de opretter træningen, kan også introducere bias.

Kort sagt: "Hvis den underliggende tekst, du træner på, er racistisk, sexistisk eller har disse partier i det, vil din model afspejle det," siger Dr. Lehman.

Hvordan vi programmerede diætkultur til AI

De fleste undersøgelser og diskussion til dato om AI og social bias har fokuseret på spørgsmål som sexisme og racisme. Men Tessa Chatbot -hændelsen afslører, at der er en anden fordomme bagt i denne type teknologi (og dermed ind i vores større samfund, i betragtning af at nævnte fordomme introduceres af menneskelig adfærd): den af ​​diætkultur.

Der er ikke en officiel definition af diætkultur, men Byrne opsummerer den som ”ideen om, at vægt er lig med sundheden, at montør altid er bedre, at folk i store kroppe er iboende usunde, og at der er en slags moral bundet i det, du spiser."

En del af denne forståelse af diætkulturen tilføjer Dr. Conason, er denne vedvarende (men vildledte) tro på, at enkeltpersoner har fuld, direkte kontrol over deres krop og vægt-en tro på, at den $ 70-plus milliardindustri foreviger for fortjeneste.

Men det er bare en del af det. ”Virkelig handler det om vægt partiskhed,”Siger Byrne. Og det betyder de negative holdninger, antagelser og overbevisninger, som enkeltpersoner og samfundet holder mod mennesker i større kroppe.

Forskning bugner af at forbinde vægtbias for at direkte skade for fede mennesker på næsten alle områder af deres liv. Fedt mennesker er ofte stereotype som dovne, slurvede og mindre smarte end mennesker, der er mindre størrelse-tro, der får ledere til at videregive fedtarbejdere eller overse dem til kampagner og rejser. Især fede kvinder betragtes ofte som mindre attraktive på grund af deres størrelse, selv af deres egne romantiske partnere. Fedt mennesker er også mere tilbøjelige til at blive mobbet og mere tilbøjelige til at blive dømt for en forbrydelse end mennesker i mindre størrelse, simpelthen i kraft af deres kropsvægt.

Vægtforspænding er også florende online-og spejlet til generative AI-programmer for at hente på. ”Vi ved, at generelt på tværs af internettet, på tværs af alle former for medier, er meget stigmatiserende synspunkter om fedthed og højere vægte gennemgribende,” dr. Raffoul siger sammen med unøjagtigheder om ernæring, fitness og generel sundhed. Med en enorm del af ens træningsdata, der sandsynligvis er besat med vægtbias, vil du sandsynligvis finde dem manifestere i et generativt AI-program-siger, når en bot designet til at forhindre spiseforstyrrelser i stedet giver folk tip til, hvordan man taber sig.

Faktisk fandt en rapport, der blev offentliggjort i august fra Center for Moding Digital Hate (CCDH), der undersøgte forholdet mellem AI og spiseforstyrrelser. Fireoghalvfjerds procent af disse skadelige svar blev ledsaget af advarsler om, at det gavne kan være ”farligt."

Men igen er det mennesker, der skaber programalgoritmer, former deres direktiver og skriver det indhold, hvorfra algoritmer lærer, at biasen kommer fra os. Og desværre, stigmatiserende overbevisning om fede mennesker informerer alle aspekter af vores samfund, fra hvordan flysæder er bygget og solgt, til hvem vi kaster som fører mod sidekick i vores film og tv -shows, til hvilken størrelse tøj vi vælger at lagerføre og sælge i vores butikker.

”Anti-fedt bias og diætkultur er så indviklet og dybt vævet ind i vores samfunds stof,” siger Maxwell. ”Det er som den luft, vi indånder udenfor."

Desværre er den medicinske industri den største gerningsmand af vægtbias og stigma. ”Troen på, at det er usundt at være fedt,” siger Byrne, ”bagt ind i al sundhed og medicinsk forskning.”Centers for Disease Control and Prevention (CDC) beskriver fedme (når en person har et kropsmasseindeks, alias BMI, på 30 eller højere) som en” almindelig, alvorlig og kostbar kronisk sygdom.”Verdenssundhedsorganisationen (WHO) henviser til antallet af mennesker i større størrelse over hele verden som en” epidemi ”, der” overtager mange dele af verden."

Alligevel er "løsningen" til at være fedtvægtstab ikke særlig godt understøttet af videnskab. Forskning har vist, at flertallet af mennesker får tilbage den vægt, de taber inden for få år, selv patienter, der gennemgår bariatrisk kirurgi. Og vægtcykling (når du ofte taber og går i vægt, ofte på grund af slankekure) er blevet knyttet til en øget risiko for kroniske sundhedsmæssige bekymringer.

Selvom det er forbundet med en højere sandsynlighed for at have højt blodtryk, type 2 -diabetes, hjerteanfald, gallesten, leverproblemer og mere er der ikke et ton af bevis for, at fedthed alene er, at fedme alene er, at fedme alene er, at fedme alene Årsager Disse sygdomme. Faktisk hævder mange anti-diæteksperter, at fede mennesker har dårligere sundhedsresultater delvis på grund af den giftige stress, der er forbundet med vægtstigma. BMI, der bruges til hurtigt at evaluere en persons sundhed og risiko, er også bredt anerkendt som racistisk, forældet og ikke nøjagtigt for sort, oprindelig og folk i farve (BIPOC). På trods af alle disse problemer behandler vores medicinske system og samfundet på stor fedthed samtidigt som en sygdom og moralsk svigtende.

”Det er et temmelig klart eksempel på vægtstigma, måderne, hvorpå folkesundhedsbureauer udgør henstillinger, der udelukkende er baseret på vægt, kropsstørrelse og form,” siger Dr. Raffoul.

Patologiseringen af ​​fedthed bidrager direkte til vægt stigma-og konsekvenserne er ødelæggende. Forskning viser, at læger har en tendens til at afvise fedtpatienter og tilskrive alle sundhedsmæssige problemer til en persons vægt eller BMI, hvilket kan resultere i ubesvarede diagnoser og farlige bortfald i pleje. Disse negative oplevelser får mange fede mennesker til at undgå, at sundhedsområdet helt er mange, der øger deres risiko for dårlige sundhedsresultater.

Vægtstigma er gennemgribende, selv inden for gendannelsesverdenen for spiseforstyrrelser. Mindre end 6 procent af mennesker med spiseforstyrrelser diagnosticeres som "undervægt" i henhold til National Association of Anorexia Nervosa og tilknyttede lidelser (ANAD), men alligevel er ekstrem tyndhed ofte de vigtigste kriterier i folks sind for at diagnosticere en spiseforstyrrelse. Dette betyder, at fede mennesker med spiseforstyrrelser ofte tager år at få diagnosticeret.

Forskning viser, at læger har en tendens til at afvise fedtpatienter og tilskrive alle sundhedsmæssige problemer til en persons vægt eller BMI, hvilket kan resultere i ubesvarede diagnoser og farlige bortfald i pleje.

”Og selvom du kan gå til behandling, er det ikke retfærdig omhu,” siger Nia Patterson, en Body Liberation Coach og Eating Disorder Survivor. Fedt mennesker behandles ofte forskelligt på grund af deres størrelse i disse rum. Maxwell siger, at hun blev skammet for at have bedt om mere mad under anorexia -behandling og blev sat på en ”vedligeholdelses” -plan, der stadig begrænsede kalorier.

Byrne siger, at der er endda debat i det medicinske samfund om, hvorvidt mennesker, der har en spiseforstyrrelse, stadig sikkert kan forfølge vægttab-selvom data viser, at slankekure markant øger en persons risiko for at udvikle en spiseforstyrrelse.

Virkeligheden er, at disse meget gennemgribende overbevisninger om vægt (og den sundhedsrelaterede medicinske rådgivning, de har informeret), vil naturligvis eksistere i en chatbot, fordi vi har tilladt dem at eksistere overalt: I magasiner, på lægekontorer, i forskningsforslag, i film og tv -shows, i det meget tøj, vi bærer. Du finder endda anti-fedt-holdninger fra respekterede organisationer som NIH, CDC og tophospitaler som Cleveland Clinic. Alt ovenstående gør det at se det problematiske råd, som en bot spytter ud (som at prøve at miste et pund om ugen) desto mere udfordrende, "fordi det er noget, der er blevet gentaget af læger og forskellige mennesker, vi ser på til ekspertise," Dr. Siger Conason. Men disse meddelelser styrker vægtforspænding og kan brændstof til spiseforstyrrelser og ellers skade folks mentale sundhed, siger hun.

Med henblik herpå er det ikke nødvendigvis algoritmerne, der er det største problem her: det er vores samfund, og hvordan vi ser og behandler fede mennesker. Vi er dem, der skabte vægtbias, og det er på os at ordne det.

Bryder fri for diætkultur

Den grimme sandhed, der stirrer tilbage på os i spejlet-at fathobia og vægtbias i AI har intet at gøre med robotterne og alt at gøre med os-feels, der er ubehageligt at sidde med delvis, fordi det er syntes Som vi har gjort fremskridt på den front. Vi har fejret plus-størrelse modeller, musikere og skuespillerinder; Større størrelse Barbie-dukker til børn; Flere ekspansive muligheder for tøjstørrelse på butikshylder. Men disse sejre gør lidt (hvis noget) for at tackle forskelsbehandlingen, der påvirker mennesker i større kroppe, siger Maxwell.

”Jeg tror, ​​at de fremskridt, vi har gjort, ikke engang begynder at røre ved den reelle ændring, der skal ske,” er enig i Dr. Dr. Conason. At bryde trylleformularen er en lang og snoede vej, der involverer meget mere end at skubbe kropspositivitet. Men arbejdet skal starte et sted, både i det virtuelle landskab og i den virkelige verden.

Dr. Varshney siger, at med hensyn til AI, arbejder hans team og andre på at udvikle måder, som programmerere kan gribe ind under oprettelsen af ​​et program for at prøve at afbøde partier. (For eksempel forudbehandler træningsdata for forbehandling, inden de fodrer dem til en computer for at udslette visse forudindtægter eller oprette algoritmer designet til at udelukke partiske svar eller resultater.)

Der er også et spirende AI -etikfelt, der sigter mod at hjælpe tech -medarbejdere med at tænke kritisk over de produkter, de designer, hvordan de kan bruges, og hvorfor det er vigtigt at tackle bias. Dr. Varshney, for eksempel, leder maskinlæring på IBM's Foundations of Trustworthy AI -afdeling. I øjeblikket er disse bestræbelser frivillige; Dr. Lehman forudsiger, at det kræver regeringsregulering (et mål for Biden -administrationen) for at flere tech -virksomheder kan vedtage strenge foranstaltninger til at tackle bias og andre etiske spørgsmål, der er forbundet med AI.

Nye generationer af tech -medarbejdere undervises også mere kritisk om de digitale værktøjer, de opretter. Nogle universiteter har dedikeret AI -etikforskningscentre, som Berkman Klein Center ved Harvard University (som har et årligt "Ansvarligt AI" -stipendium). MITs Schwarzman College of Computing tilbyder også en "computer- og samfundskoncentration", der sigter mod at tilskynde til kritisk tænkning om de sociale og etiske implikationer af tech. Klasser som "Advocacy in Tech, Media and Society" ved Columbia University's School of Social Work har i mellemtiden sigte mod at give grad studerende værktøjer til at gå ind for bedre, mere bare tech-systemer-selvom de ikke er udviklere selv.

Men for at sikre et mindre partisk virtuelt miljø, skal det hårdere arbejde med at udrydde vægtbias i det virkelige liv begynde. Et kritisk sted at starte? Udrager BMI. ”Jeg tror, ​​at det er doven medicin på dette tidspunkt, doven videnskab, at fortsætte med at tilskrive BMI som et mål for sundhed,” siger Maxwell.

Det er ikke nødvendigvis algoritmerne, der er det største problem her: det er vores samfund, og hvordan vi ser og behandler fede mennesker. Vi er dem, der skabte vægtbias, og det er på os at ordne det.

I mellemtiden siger Byrne, at det er nyttigt at forstå, at vægt skal ses som kun en metrisk snarere end det metrisk, der definerer dit helbred. ”Ideelt set ville vægt kun være et nummer på dit diagram,” siger hun. Byrne understreger, at selvom det kan være nyttigt at undersøge ændringer i vægt over tid (i sammenhæng med andre relevante oplysninger, som vitaler og medicinsk historie), burde kropsstørrelse bestemt ikke være centrum for samtaler om sundhed. (Du har ret til at nægte at blive vejet, hvilket er noget, Patterson gør med deres læge.)

Der er allerede taget skridt i denne retning, da American Medical Association (AMA) stemte den 14. juni for at vedtage en ny politik til kun at bruge BMI. Desværre inkluderer disse foranstaltninger stadig mængden af ​​fedt, en person har-og forlader stadig BMI.

For at tackle vægtbias uden for lægekontorer citerer Patterson de bestræbelser, der gøres for at vedtage lovgivning, der ville forbyde vægtdiskriminering på by- og statsniveau. Disse regninger-lignende den, der netop er gået i New York City-enige, at arbejdsgivere, udlejere eller offentlige tjenester ikke kan nægte tjenester til nogen baseret på deres højde eller vægt. Lignende lovgivning overvejes i Massachusetts og New Jersey og er allerede på bøgerne i Michigan, siger Dr. Raffoul.

På individuelt niveau har alle arbejde for at udføre clearning diætkultur. ”Jeg synes, det er svært, og det sker virkelig langsomt,” siger Byrne, hvorfor hun siger, at bøger udpakker vægtbias er gode steder at starte. Hun anbefaler Dyrets mave af da'shaun l. Harrison og Anti-diæt Af Christy Harrison, Rd, MPH. Soto anbefaler også ofte I frygt for den sorte krop Af Sabrina Strings til sine klienter. Forældre kan også se på Fedt tale: Forældre i en alder af diætkultur Af journalisten Virginia Sole-Smith for yderligere vejledning om at stoppe vægtstigma derhjemme. Podcasts som Vedligeholdelsesfase og Uopfordret: Fatties snak tilbage er også gode steder at aflære, siger Byrne.

Patterson siger, at et af deres mål som kropsfrigørelsescoach er at få folk til at bevæge sig ud over mainstream -ideer om kropspositivitet og fokusere på noget, de synes er mere opnåeligt: ​​”Kropstolerance.”Ideen, som de først hørte nogen artikulere i en støttegruppe for 10 år siden, er, at selvom en person måske ikke altid elsker deres krop, eller hvordan den ser på et givet øjeblik, lever de det bedste, de kan. ”Det er normalt det, jeg prøver at få folk, der er i marginaliserede organer at stræbe efter,” siger Patterson. ”Du behøver ikke at være neutral over for din krop, du behøver ikke at acceptere det ... at være fedt føles virkelig hårdt, og det er. I det mindste bare tolerere det i dag."

Patterson siger, at at overvinde de problematiske måder, vores samfund behandler vægt, skal starte med fortalervirksomhed-og det kan ske på individuelt grundlag. ”Hvordan jeg kan ændre ting er at hjælpe mennesker, en-til-en eller i en gruppe, gøre en forskel med deres kroppe: deres opfattelse og erfaring i deres kroppe og deres evne til at stå op og gå ind for sig selv,” de deler.

I Sne hvid, Der kom i sidste ende en dag, hvor den onde dronning lærte sandheden om sig selv fra sit magiske spejl. AI har på lignende måde vist os alle sandheden om vores samfund: at vi stadig er i den trale af diætkultur. Men i stedet for at fordoble vores overbevisning, har vi en unik mulighed for at bryde trylleformularen, som vægtstigma holder over os alle. Hvis vi kun alle var villige til at møde vores sande selv-og forpligte sig til det hårde arbejde med at være (og gøre) bedre.

Den wellness-intel, du har brug for, uden de BS, du ikke tilmelder dig i dag for at have de nyeste (og bedste) velbefindende nyheder og ekspertgodkendte tip leveret direkte til din indbakke.