AI вече е разрушителен стюард на диетичната култура

След отразяване от редица медии, очертаващи загрижените отговори на Теса, ръководството в Неда в крайна сметка реши да спре Теса в края на май. „Теса ще остане офлайн, докато завършим пълен преглед на случилото се“, каза главният оперативен директор на Неда Елизабет Томпсън в изявление по имейл до Well+Good през юни. Организацията казва, че разработчикът на бота добави генеративни функции на изкуствения интелект (AI) към Теса без нейното знание или съгласие. (Представител на разработчика на софтуер, Кас, каза пред Wall Street Journal че е действал в съответствие с договора си с Неда.)

Целият инцидент прозвуча алармени камбани за мнозина в пространството за възстановяване на разбойника. Бих твърдял обаче, че изкуственият интелект често работи точно както е проектиран. „[AI] просто отразява културното мнение за диетичната култура“, казва Кристин Бирн, RD, MPH, анти-диетичен диетолог, който е специализиран в лечението на хранителни разстройства.

Като вълшебното огледало в Снежанка, която отговори на всеки въпрос на злата кралица, ние търсим ИИ, за да ни дадем ясни отговори в несигурен, често противоречив свят. И като това вълшебно огледало, AI ни отразява истината за себе си. За злата кралица това означаваше да бъдеш най -справедлив в земята. Но в настоящото ни диетично общество, насочено към културата, AI е просто „огледално“ трайната фиксация на Америка върху теглото и тънкостта и колко работа все още не трябва да свършим това заклинание.

Как работи съветите с AI

„Изкуственият интелект е всяка компютърна технология, която се опитва да направи нещата, които свързваме с хората по отношение на тяхното мислене и учене“, казва Куш Варши, доктор на научните изследвания и мениджър на Thomas J на ​​IBM Research Thomas J. Изследователски център на Уотсън в Йорктаун Хайтс, Ню Йорк. AI използва сложни алгоритми, за да имитира човешки умения като разпознаване на реч, вземане на решения и виждане и идентифициране на обекти или модели. Много от нас използват AI технологии всеки ден, като да помолят Сири да зададе напомняне да приема лекарства или да използва Google Translate, за да разбере тази дума в менюто на френския ресторант.

Има много различни подкатегории на AI; Тук ще се съсредоточим върху текстовите AI инструменти като Chatbots, които бързо стават все по-сложни, както е доказано от дебюта на старта на Chatbot Chatgpt през есента на 2022 г. „[Чатботите, базирани на AI. Д -р. Изследователските центрове на Lehman за обработка на естествен език (което означава способността на компютъра да разбира човешки езици), което позволява на този вид софтуер да пише имейли, да отговаря на въпроси и други.

В най-простите условия, текстово базирани AI инструменти се научете да имитирате човешката реч и писане, тъй като те се предоставят с това, което се нарича „Данни за обучение“, което по същество е огромна библиотека от съществуващо писмено съдържание от Интернет. Оттам, DR. Varshney казва, че компютърът анализира моделите на езика (например: какво означава, когато определени думи следват други; как термините често се използват в и извън контекста), за да могат да го повторят убедително. След това разработчиците на софтуер ще прецизират тези данни и нейните знания за „специализиране“ на бота за нейното конкретно използване.

От това обучение получавате две общи категории кандидатстване: прогнозна ИИ и генеративен AI. Според д -р. Varshney, прогнозният AI работи с фиксиран набор от възможни отговори, които са предварително програмирани с конкретна цел. Примерите включват автоматични записи във вашия имейл или данни, които вашите носими устройства ви дават относно движението на тялото ви.

Генеративният AI обаче е предназначен да създаде изцяло ново съдържание, вдъхновено от това, което знае за езика, и как хората говорят. „Това е напълно генериране на изход без ограничение за това какви възможности може да има“, DR. Казва Варши. Влезте в Chatgpt, най-известната генеративна AI програма до момента и можете да я помолите да напише сватбени обети, извадка Seinfeld скрипт или въпроси, които да зададете в интервю за работа въз основа на биографията на мениджъра по наемане. (И много, много повече.)

Но отново, AI чатботите знаят само какво е достъпно за тях да анализират. В нюансирани, чувствителни и високо персонализирани ситуации, като, да речем, лечение на хранително разстройство, AI чатботите представят недостатъци в най -добрите сценарии и опасност в най -лошото.

Текущите ограничения на AI текстовите инструменти за информация за здравето и храненето

Има огромен потенциал за генеративен ИИ в здравните пространства, казва DR. Варшани; Вече се използва за подпомагане на лекарите с графики, помощ при диагнозите на рака и решенията за грижи и други. Но след като започнете да копаете, рисковете от генеративен ИИ за директно предоставяне на информация за здравето или храненето стават доста ясни.

Тъй като тези модели обикновено изтеглят информация от целия интернет, а не конкретно проверените източници и здравна информация в мрежата е известна неточна-не трябва да очаквате резултата да бъде фактическа, казва д-р. Леман. Това също няма да отразява авангардното медицинско мнение, тъй като много инструменти, като Chatgpt, имат единствено достъп до информация, която беше онлайн през 2019 г. или по-рано.

Експертите твърдят. „Проблемът с хората, които се опитват да получат здравни и общи съвети за уелнес онлайн, е, че те не го получават от здравен лекар, който знае за техните специфични нужди, бариери и други неща, които може да се наложи да бъдат разгледани“, казва Аманда Рафул, Доктор, инструктор по педиатрия в Харвардския медицинско училище и изследовател в Harvard Striped, инкубатор за обществено здраве, посветен на предотвратяване на хранителни разстройства.

Освен това тялото на всеки има различни нужди за здраве и хранителни продукти в зависимост от техния уникален генетичен състав, микробиома на червата, основни здравословни състояния, културен контекст и повече и тези индивидуални нужди също се променят ежедневно, също се променят ежедневно. В момента AI няма капацитет да знае това. „Непрекъснато казвам на клиентите си, че не сме роботи“, казва Далина Сото, RD, LDN. „Ние не се включваме и излизаме ежедневно, така че не се нуждаем от същата сума всеки ден. Имаме хормони, чувства, стрес, живот, движение-толкова много неща, които влияят върху начина, по който изгаряме и използваме енергия ... но тъй като AI може да изплюе уравнение, хората мислят, Добре, това трябва да е правилно.”

„Непрекъснато казвам на клиентите си, че не сме роботи. Ние не се включваме и излизаме ежедневно, така че не ни трябва едно и също количество всеки ден. Имаме хормони, чувства, стрес, живот, движение-толкова много неща, които влияят върху начина, по който изгаряме и използваме енергия.”
-Dalina Soto, Rd, LDN

Има и огромна стойност в човешката връзка, която бот просто не може да замени, добавя д -р. Конасън. „Има просто нещо в това да говориш с друго човешко същество и да се чувстваш чут и виждани и утвърдени, и да имаш някой там с теб по време на наистина тъмен момент… това е наистина мощно. И не мисля, че бот някога може да отговори на тази нужда.”

Още по -загрижени са известните проблеми със социалните пристрастия с AI технологията, по -специално фактът, че AI алгоритмите често отразяват съществуващите обществени предразсъдъци срещу определени групи, включително жени, хора в цвят и LGBTQ+ хора. Проучване от 2023 г., разглеждащо Chatgpt, установи, че чатботът може много лесно да произвежда расистки или проблемни отговори в зависимост от подкана, който е даден. „Намираме относно модели, когато конкретни образувания-например, определени раси са насочени средно три пъти повече от други, независимо от определената персона. Това отразява присъщите дискриминационни пристрастия в модела “, написаха изследователите.

Но като хората, AI не е непременно „роден“ предразсъдък. То научава пристрастия от всички нас. Вземете данни за обучение, които, както беше споменато, обикновено се състои от текст (статии, информационни сайтове и понякога сайтове за социални медии) от цялата мрежа. „Този ​​език, който е в интернет, вече има много социални пристрастия“, казва д -р. Варшани. Без смекчаване, генеративна AI програма ще вземе тези пристрастия и ще ги включи в своята продукция, което може да информира и неправилно така диагностициране и възможности за лечение. Разработчиците на избор при създаването на обучението могат да въведат и пристрастия.

Казано по -просто: „Ако основният текст, на който тренирате, е расист, сексистки или има тези пристрастия в него, вашият модел ще отрази това“, казва д -р. Леман.

Как програмирахме диетичната култура в AI

Повечето изследвания и дискусии досега по AI и социални пристрастия се фокусират върху въпроси като сексизъм и расизъм. Но инцидентът с чатбот на Теса разкрива, че има още едно предразсъдъци, изпечени в този тип технологии (и по този начин в нашето по -голямо общество, като се има предвид, че предразсъдъците се въвеждат от човешкото поведение): това на диетичната култура.

Няма официално определение на диетичната култура, но Byrne го обобщава като „идеята, че теглото се равнява на здравето, че монтьорът винаги е по -добър, че хората в големи тела са по своята същност нездравословни и че има някакъв морал, обвързан в това, което ядете.”

Част от това разбиране на диетичната култура, добавя д -р. Conason, това устойчиво (но заблудено) вяра, че хората имат пълен, пряк контрол върху тялото и теглото си-вярването, че индустрията за диета на стойност 70 долара плюс диета за печалба увековечава печалба.

Но това е само част от него. „Наистина, става въпрос за тегло пристрастия,- казва Бирн. А това означава отрицателните нагласи, предположения и убеждения, които хората и обществото държат към хората в по -големи тела.

Изследванията изобилстват, свързващи пристрастията на теглото, за да насочат вреда на дебелите хора в почти всяка област от живота си. Дебелите хора често са стереотипни като мързеливи, помия и по-малко умни от хората, които са с по-малки размери. По -специално Дебелите жени често се считат за по -малко привлекателни поради размера си, дори от собствените си романтични партньори. Дебелите хора също са по-склонни да бъдат тормозени и по-вероятно да бъдат осъдени за престъпление, отколкото хора с по-малък размер, просто по силата на телесното си тегло.

Пристрастията на теглото също се разрастват онлайн и огледални за генеративни програми за ИИ, за да се вземат. „Ние знаем, че като цяло в интернет, във всички форми на медии, много стигматизиращи възгледи за мазнините и по -високите тежести са всеобхватни“, DR. Рафул казва, наред с неточностите относно храненето, фитнеса и цялостното здраве. С огромна част от данните за обучение, вероятно опетнени с отклонение от теглото, вероятно ще откриете, че се проявява в генеративна AI програма, когато бот, предназначен да предотврати хранителните разстройства, вместо това дава на хората съвети как да отслабнат.

Всъщност доклад, публикуван през август от Центъра за противодействие на цифровата омраза (CCDH), който изследва връзката между AI и хранителните разстройства, установи, че AI чатботите генерират вредно съдържание на хранително разстройство 23 процента от времето. Деветдесет и четири процента от тези вредни отговори бяха придружени от предупреждения, че предоставените съвети могат да бъдат „опасни.”

Но отново, хората, които създават програмни алгоритми, оформят своите директиви и пишат съдържанието, от което алгоритмите се научават, че пристрастията идва от нас. И за съжаление, стигматизиращите убеждения за дебелите хора информират всеки аспект на нашето общество, от това как се изграждат и продават авиокомпаниите, на които ние играем като водещи срещу странични удари в нашите филми и телевизионни предавания, до какъв размер облекло избираме да запасим и продаваме в Нашите магазини.

„Пристрастията срещу мазнините и диетичната култура са толкова сложно и дълбоко вплетени в тъканта на нашето общество“, казва Максуел Максуел. „Това е като въздуха, който дишаме навън.”

За съжаление медицинската индустрия е най -големият извършител на предубеждение и стигма на теглото. „Вярата, че да си дебел е нездравословно“, казва Бирн, е „изпечена във всички здравни и медицински изследвания.”Центровете за контрол и профилактика на заболяванията (CDC) описват затлъстяването (когато човек има индекс на телесна маса, известен още като ИТМ, от 30 или по -високо) като„ често срещана, сериозна и скъпа хронична болест.„Световната здравна организация (СЗО) се отнася до броя на хората с по-голям размер по света като„ епидемия “, която„ поема много части на света.”

И все пак „решението“ за загуба на мазнини-не е особено добре подкрепено от науката. Изследванията показват, че по -голямата част от хората получават теглото, което отслабват в рамките на няколко години, дори пациенти, които се подлагат на бариатрична хирургия. И теглото на колоезденето (когато често губите и наддавате на тегло, често се дължи на диета) е свързано с повишен риск от хронични опасения за здравето.

Въпреки че наличието на по -голямо тегло е свързано с по -голяма вероятност да има високо кръвно налягане, диабет тип 2, сърдечни пристъпи, камъни в жлъчката, чернодробни проблеми и други, няма много доказателства, че само мазнините причини Тези заболявания. Всъщност много анти-диетни експерти твърдят, че отчасти хората имат по-лоши здравни резултати поради токсичния стрес, свързан с теглото стигма. ИТМ, който се използва за бързо оценка на здравето и риска на човек, също е широко признат като расистки, остарял и не е точен за черно, коренно и хора в цвят (Bipoc). Но въпреки всички тези проблеми, нашата медицинска система и обществото при големи лечения мазнини едновременно като болест и морален неуспех.

„Това е доста ясен пример за стигма на теглото, начините, по които агенциите за общественото здравеопазване дават препоръки, основани единствено на теглото, размера на тялото и формата“, казва д -р. Рафул.

Патологизирането на мазнините пряко допринася за теглото на стигмата-и последствията са пагубни. Изследванията показват, че лекарите са склонни да отхвърлят мазнини пациенти и да приписват всички здравословни проблеми на теглото на човек или ИТМ, което може да доведе до пропуснати диагнози и опасни пропуски в грижите. Тези негативни преживявания карат много дебели хора да избягват пространствата за здравеопазване изцяло, като увеличават риска от лоши здравни резултати.

Стигмата на теглото е всеобхватна, дори и в света на възстановяването на хранителното разстройство. По -малко от 6 процента от хората с хранителни разстройства се диагностицират като „наднормено тегло“, според Националната асоциация на анорексията нерва и свързаните с тях разстройства (ANAD), но крайната тънкост често е основният критерий в съзнанието на хората за диагностициране на хранително разстройство. Това означава, че дебелите хора с хранителни разстройства често отнемат години, за да бъдат диагностицирани.

Изследванията показват, че лекарите са склонни да отхвърлят мазнини пациенти и да приписват всички здравословни проблеми на теглото на човек или ИТМ, което може да доведе до пропуснати диагнози и опасни пропуски в грижите.

„И дори да можете да отидете на лечение, това не е справедлива грижа“, казва Ниа Патерсън, треньор за освобождение на тялото и оцеляване на хранителното разстройство. Дебелите хора често се третират по различен начин поради размера си в тези пространства. Максуел казва, че е била засрамена, че е поискала повече храна по време на лечение с анорексия и е била поставена на план за „поддръжка“, който все още ограничава калориите.

Бирн казва, че дори в медицинската общност има дебати дали хората, които имат хранително разстройство, все още могат безопасно да продължат загубата на тегло-въпреки че данните показват, че диетата значително увеличава риска на човек от развитие на хранително разстройство.

Реалността е, че тези силно разпространени убеждения за теглото (и медицинските съвети, свързани със здравето, които са информирали), естествено ще съществуват в чатбот, тъй като ние им позволихме да съществуват навсякъде: В списанията, в лекарските кабинети, в изследователски предложения, във филми и телевизионни предавания, в самите дрехи, които носим. Дори ще намерите нагласи против мазнини от уважавани организации като NIH, CDC и най-добрите болници като клиниката в Кливланд. Всичко по -горе прави забелязването на проблемния съвет, който ботът изплюва (като опит да се сваля килограм на седмица) още по -предизвикателно, „защото това е нещо, което е отекна от лекари и различни хора, които търсим за експертиза“, д -р. Канасън казва. Но тези съобщения засилват пристрастията на теглото и могат да подхранват хранителните разстройства и по друг начин да навредят на психичното здраве на хората, казва тя.

За тази цел не е задължително алгоритмите да са основният проблем тук: това е нашето общество и как гледаме и лекуваме мазнини хора. Ние сме тези, които създадоха пристрастия към теглото и ни е да го поправим.

Освобождаване от диетичната култура

Грозната истина, която се взира в нас в огледалото, което фатфобията и пристрастията на теглото в AI нямат нищо общо с роботите и всичко, свързано с САЩ-фейлци, неудобно да седим отчасти, защото това е изглеждаше Сякаш постигнахме напредък на този фронт. Отпразнувахме модели, музиканти и актриси плюс размер; По-големи кукли Барби за деца; По -широки опции за размер на облеклото на рафтовете на магазините. Но тези победи правят малко (ако има нещо друго), за да се справят с дискриминацията, засягаща хората в по -големи тела, казва Максуел.

„Мисля, че напредъкът, който постигнахме, дори не започва наистина да се докосва до истинската промяна, която трябва да се случи“, съгласява се д -р. Конасън. Нарушаването на заклинанието на диетичната култура е дълъг и криволичещ път, който включва много повече от натискане на положителността на тялото. Но работата трябва да започне някъде, както във виртуалния пейзаж, така и в реалния свят.

Д -р. Варши казва, че по отношение на AI, неговият екип и други работят за разработването на начини, по които програмистите могат да се намесят по време на създаването на програма, за да се опитат да смекчат пристрастията. (Например, предварително обработване на данни за обучение, преди да го подадете на компютър, за да се премахнат определени пристрастия или създаване на алгоритми, предназначени да изключат предубедените отговори или резултатите.)

Има и разрастващо. Д -р. Varshney, например, води машинно обучение в основите на IBM на надежден отдел за ИИ. В момента тези усилия са доброволни; Д -р. Lehman прогнозира, че това ще изисква правителствено регулиране (цел на администрацията на Байдън), за да могат повече технологични компании да приемат строги мерки за справяне с пристрастията и други етични въпроси, свързани с AI.

Новите поколения технически работници също се учат по -критично за цифровите инструменти, които създават. Някои университети са посветили изследователски центрове за етика на AI, като Центъра за Беркман Клайн в Харвардския университет (който има годишна стипендия „отговорен AI“). Компютърният колеж на Schwarzman на MIT също предлага „изчислителна и обществена концентрация“, която има за цел да насърчи критическото мислене за социалните и етичните последици от технологиите. Класове като „Застъпничество в областта на технологиите, медиите и обществото“ в Училището за социална работа на университета в Колумбия, за да се стремят към студентите на града да се застъпват за по-добри, по-просто технологични системи-дори и да не са самите разработчици.

Но за да се осигури по -малко предубедена виртуална среда, трябва да започне по -трудната работа за премахване на теглото в реалния живот. Критично място за начало? Изкореняване на ИТМ. „Мисля, че в този момент е мързелива медицина, мързелива наука, да продължи да приписва на ИТМ като мярка за здраве“, казва Максуел.

Не е задължително алгоритмите да са основният проблем тук: това е нашето общество и как гледаме и лекуваме дебели хора. Ние сме тези, които създадоха пристрастия към теглото и ни е да го поправим.

Междувременно Бърн казва, че е полезно да разбереш, че теглото трябва да се разглежда като само един показател, а не като като the показател, който определя вашето здраве. „В идеалния случай теглото би било само едно число на вашата диаграма“, казва тя. Byrne подчертава, че макар да е полезно да се разгледат промените в теглото във времето (в контекст с друга подходяща информация, като жизнени и медицинска история), размерът на тялото със сигурност не трябва да бъде център на разговорите за здравето. (Имате право да откажете да се претегляте, което е нещо, което Патерсън прави с техния лекар.)

В тази посока вече се предприемат стъпки, тъй като Американската медицинска асоциация (AMA) гласува на 14 юни да приеме нова политика за използване на ИТМ само във връзка с други здравни мерки. За съжаление, тези мерки все още включват количеството мазнини, които човек има-и все още оставя на мястото на ИТМ.

За справяне с пристрастията на теглото извън лекарските кабинети, Патерсън цитира усилията, които се полагат за приемане на законодателство, което би забранило дискриминацията на теглото на градското и държавното ниво. Тези сметки, подобни на току-що, преминаха в Ню Йорк Сити, че работодателите, наемодателите или обществените служби не могат да отказват услуги на някого въз основа на височината или теглото си. Подобно законодателство се разглежда в Масачузетс и Ню Джърси и вече е в книгите в Мичиган, казва д -р. Рафул.

На индивидуално ниво всеки има работа за неактивна диетична култура. „Мисля, че е трудно и това се случва наистина бавно“, казва Бирн, поради което тя казва. Тя препоръчва Корем на звяра от Da'shaun l. Харисън и Анти-диета От Кристи Харисън, RD, MPH. Soto също често препоръчва Страхувайки се от черното тяло от Сабрина струни на своите клиенти. Родителите също могат да гледат Fat Talk: родителство в епохата на диетичната култура От журналиста Вирджиния Соле-Смит за допълнителни насоки за спиране на теглото стигма у дома. Подкасти харесват Фаза на поддръжка и Непоискани: Бегостките се разговарят обратно също са страхотни места за отучаване, казва Бирн.

Патерсън казва, че една от техните цели като треньор по освобождение на тялото е да накара хората да преминат отвъд основните идеи за позитивност на тялото и да се съсредоточат върху нещо, което смятат за по -постижимо: „Толерантността на тялото.„Идеята, която за първи път чуха някой да артикулира в група за подкрепа преди 10 години, е, че докато човек не винаги може да обича тялото си или как изглежда в даден момент, той живее в него, най -доброто, което могат. „Обикновено това се опитвам да накарам хората, които са в маргинализирани тела, за да се стремят“, казва Патерсън. „Не е нужно да сте неутрални към тялото си, не е нужно да го приемате… Да си дебел се чувства наистина трудно и е. Поне просто го толерирайте днес.”

Патерсън казва, че преодоляването на проблемните начини, по които нашето общество третира теглото, трябва да започне с застъпничество-и това може да се случи на индивидуална основа. „Как мога да променя нещата, е да помогна на хората, един на един или в група, да направят промяна с телата си: тяхното възприятие и опит в телата си и способността им да се изправят и да се застъпват за себе си“, споделят те споделят те, те споделят, те споделят те споделят те.

В Снежанка, В крайна сметка дойде ден, когато злата кралица научи истината за себе си от своето вълшебно огледало. AI по подобен начин ни показа истината за нашето общество: че все още сме в трала на диетичната култура. Но вместо да удвоим нашите убеждения, имаме уникална възможност да нарушим заклинанието, което теглото стигма държи над всички нас. Ако само всички ние бяхме готови да се изправим пред истинските си себе си-и да се ангажираме с усилената работа да бъдем (и да правиш) по-добре.

Wellness Intel, от който се нуждаете-без BS, които не се регистрирате днес, за да имате най-новите (и най-големи) новини за благополучие и одобрени от експерти съвети, доставени направо във вашата пощенска кутия.