Запознайте се с DIEM, „социалната търсачка“, захранвана от AI

Например, да кажем, че искате да знаете колко струва да замразите яйцата си. Вие бихте въвели този въпрос в DIEM и компонентът AI ще използва по-широката си интернет база данни и DIEM съдържание на потребители, за да генерира както отговор с едно изречение, така и по-дълъг отговор. И вие ще получите и двете, наред с всички генерирани от общността публикации по темата, в случай че се интересувате от превъртане през тях.

По този начин Diem съчетава лекотата на ИИ с персонализирането на знанията от действителни жени и не-бинарни хора-много вид анекдотична информация и житейски опит и клюка Често деприоритизиран от търсачките поради пристрастия (повече за това по -долу). Именно комбинацията, казва Бейтс, прави информацията за DIEM както полезна, така и пряко приложима за хора от тези общности. „Начинът, по който винаги сме мислили за изграждането, е:„ Как можем да създадем пространство, където можете да търсите колективните прозрения на вашите общности?'" тя казва. „Ако можете да изградите колективно с вашата общност, тя оформя гласа, данните и опита и в крайна сметка се чувства различно.”

Въпросът за пристрастията към пола в търсачките и AI платформите

Тъй като пристрастията към половете са разпространени в обществото като цяло, то съществува и в интернет алгоритмите за търсене-двигател и подхранва информационната разлика между половете. Това е същата пропаст, с която Бейтс се сблъска, когато се опитваше да намери приложима, относителна информация за хапчето за сутрин след 2018 г.

Като доказателство, помислете за резултатите от проучване от 2022 г., за което изследователите изглеждат да определят дали търсенето на изображения на Google в страни с по-високи резултати от и-некласността на пола (оценен с глобалния индекс на разликата между половете) също ще демонстрира пристрастие към пола. За да направят това, те проведоха търсене на думата „човек“ на местния език на 37 държави в първото си проучване и 52 държави във второто си. Във всички случаи резултатите от търсенето в Google в страни с по -големи нива на неравенство между половете в обществото също разкриха по -голямо различие между половете (което означава, че по -висок процент от първите 100 резултата от изображението показва мъж срещу жена).

Установено е също, че новите AI ботове увековечават пристрастията към пола. Например, Bloomberg съобщава, че изчислителният учен е получил чатт да изплюе код, който казва, че само азиатски или бели мъже ще направят добри учени; Изпълнителният директор на компанията отговори на учения в Twitter, като насърчи потребителите да „палят“ такива отговори, за да помогне на програмата да се научат да не разпространяват пристрастия.

Когато зададох на Chatgpt подобен въпрос, той каза, че не е подходящо да използвате нечий пол или раса, за да определите дали ще се отличат в професия. Но макар че изглежда, че AI в момента се учи да бъде по -малко пристрастен, той все още разчита на обективни, състрадателни потребители да го обучават да бъде така. (Докато AI на DIEM е до голяма степен обучена за създадена информация от и за Жените и не-бинарните хора и по този начин не са обект на същия въпрос на пристрастията срещу жените от скока.)

„AI е толкова добър, колкото данните, на които се обучават, и тъй като всички хора имат пристрастия и предразсъдъци, когато се използват техните данни, това пристрастие и предразсъдъци стават част от AI."-Nina Vasan, MD, психиатър

Тези констатации илюстрират как пристрастията, които поддържаме, когато хората естествено се прехвърлят към продуктите, които създаваме, и наборите от данни, за които допринасяме. "AI е толкова добър, колкото данните, на които се обучават, и тъй като всички хора имат пристрастия и предразсъдъци, когато се използват техните данни, това пристрастие и предразсъдъци стават част от AI", казва психиатърът Нина Васан, д -р, главен медицински директор на платформата за дигитална терапия Реална и основател и изпълнителен директор на Brainstorm: The Stanford Lab за иновации в психичното здраве.

Как Diem има за цел да се превърне в забавна, информативна търсачка специално за жени и не-бинарни хора

Като се има предвид предвидената потребителска демографска употреба на Diem, Бейтс казва, че мисли за информацията, споделена на платформата и генерирана от чатбота като отговори на въпросите, които хората имат, когато са в „етап на приятел“ на живота си; Хората поглъщат много информация от приятели, когато са на средата на двадесетте и началото на тридесетте години, казва тя. Идеята с diem е, че получавате перспективи от различни хора от вашата възраст и полова идентичност, с които може да не сте взаимодействали иначе, и че колективното разбиране е от полза за всички в платформата.

Тъй. Към настоящия момент хиляди жени и не-бинарни хора са задали въпроси и са споделили отговори по DIEM по теми, свързани с тях, особено в категориите на лично здраве, пари и отношения-което е мястото, където AI на Diem е най-добре обучен.

Въпреки че все още се учи, той се изтегля от по -широк патентован набор от данни (подобно на този, който захранва Chatgpt), за да намери информация за въпроси, които хората в общността все още не са обсъждали. Точка на диференциация обаче е, че тя все още изплува „обобщен отговор на DIEM-Y“ за тези въпроси, казва Бейтс, използвайки действителните DIEM Convos, за да информира стила и тона на отговора.

Въпреки това, тъй като DIEM все още е AI, разчитащ както на генерирано от потребители съдържание, така и на този по-широк набор от данни, той със сигурност не е имунен Към проблемите, с които се сблъскват други търсачки и AI чатботи, включително фалшиви, подвеждащи и, да, дори пристрастно съдържание. От своя страна има бутон в приложението и на настолната версия, за да се съобщава за злоупотреба, а платформата публикува набор от указания на общността, които насърчават неща като „доброта и любопитство“ и „съпричастност“-за да гарантират безопасността на потребителите си като безопасността на потребителите си и качеството на информацията.

DIEM стартира по време, когато правителствените служители както в Съединените щати, така и в Европейския съюз изследват начини за регулиране на AI, до голяма степен поради горните проблеми. В u.С. По -конкретно, офисът на президента Джо Байдън пусна проект на законопроект за права на AI през октомври, двустранна група U от U.С. Сенаторите, ръководени от сенатора Чък Шумер, работят по законодателство за установяване на парапети в индустрията, а четири правителствени агенции пуснаха съвместно изявление миналия месец, очертаващи правомощията, които те държат за регулиране на индустрията по -силно, особено срещу дискриминацията, произтичащи от пристрастия.

Но Бейтс не е възпиран от влизането в този пейзаж. Тя прогнозира, че ще има "интересна промяна в бъдещето на интернет", където хората ще търсят информация, която се грижи конкретно с мястото, където са в живота си. Вместо да пита Google за съвети за запознанства, например, тя се надява скоро да отидете на платформа като Diem, която ще ви даде отговори, получени от хора с подобен житейски опит на вашето собствено.

„В момента ние съществуваме в монополите и това се отразява на това как използваме интернет и какво очакваме от платформите“, казва Бейтс. В крайна сметка тези монополи често отразяват пристрастия в полза на мъжете. „Мисля, че бъдещето на интернет ще предложи повече нишови преживявания“, казва тя. И кой да каже, че ниша е непременно малък? Както посочва Бейтс, хората, идентифициращи жени, съставляват почти равен дял от хората на планетата. И сега има гигантски групов чат, който чака техния принос.

Wellness Intel, от който се нуждаете-без BS, които не се регистрирате днес, за да имате най-новите (и най-големи) новини за благополучие и одобрени от експерти съвети, доставени направо във вашата пощенска кутия.