Incontra Diem, il motore di ricerca sociale basato sull'intelligenza artificiale intendeva avere la chat di gruppo del tuo amico

Ad esempio, supponiamo che tu voglia sapere quanto costa congelare le tue uova. Digiteresti questa domanda in Diem e il componente AI utilizzerebbe il suo più ampio database Internet e il contenuto congrueto dall'utente DEEM per generare sia una risposta a una frase che una più lunga. E riceveresti entrambi, insieme a tutti i post generati dalla comunità sull'argomento, nel caso in cui fossi interessato a scorrere attraverso di loro.

In questo modo, Diem combina la facilità di intelligenza artificiale con la personalizzazione delle conoscenze da donne reali e persone non binarie, il proprio tipo di informazioni aneddotiche ed esperienze di vita e pettegolezzo Spesso depriorato dai motori di ricerca a causa della distorsione (ne parleremo di seguito). È la combinazione, afferma Bates, che rende le informazioni su Diem utili e direttamente applicabili alle persone di queste comunità. "Il modo in cui abbiamo sempre pensato alla costruzione è:" Come possiamo creare uno spazio in cui è possibile cercare le intuizioni collettive delle tue comunità?'" lei dice. “Se riesci a costruire collettivamente con la tua comunità, modella la voce, i dati ed esperienza e finisce per sentirsi diverso."

Il problema della distorsione di genere sui motori di ricerca e sulle piattaforme di intelligenza artificiale

Poiché il pregiudizio di genere è prevalente nella società nel suo insieme, esiste anche all'interno di algoritmi di motore di ricerca su Internet e alimenta il divario di informazioni di genere. È lo stesso divario che Bates ha affrontato quando ha cercato di trovare informazioni applicabili e affini sulla pillola del mattino dopo nel 2018.

Come prova, considera i risultati di uno studio del 2022, per i quali i ricercatori hanno cercato di determinare se le immagini di Google cercano in paesi con punteggi più elevati di livello di genere (valutato con l'indice globale di gap di genere) dimostrerebbe anche una distorsione di genere. Per fare ciò, hanno condotto una ricerca della parola "persona" nella lingua locale di 37 paesi nel loro primo studio e 52 paesi nel loro secondo. In tutti i casi, la ricerca di Google risulta in paesi con maggiori livelli di disuguaglianza di genere sociale ha anche rivelato una maggiore disparità di genere (il che significa che una percentuale più alta dei primi 100 risultati dell'immagine ha mostrato un uomo contro una donna).

È stato anche scoperto che nuovi robot di intelligenza artificiale perpetuano il pregiudizio di genere. Per esempio, Bloomberg ha riferito che uno scienziato computazionale ha fatto sì che Chatgpt sputò il codice che diceva che solo gli uomini asiatici o bianchi avrebbero fatto buoni scienziati; L'amministratore delegato dell'azienda ha risposto allo scienziato su Twitter, incoraggiando gli utenti a "pollice giù" tali risposte per aiutare il programma a imparare a non propagare il pregiudizio.

Quando ho chiesto a Chatgpt una domanda simile, ha detto che non è opportuno usare il genere o la gara di qualcuno per determinare se eccellerebbero in una professione. Ma mentre sembra che l'IA stia attualmente imparando a essere meno distorta, si basa ancora su utenti obiettivi e compassionevoli per addestrarlo per essere così. (Mentre l'IA di Diem è in gran parte addestrata sulle informazioni create da e per Donne e persone non binarie, e quindi non sono soggetti allo stesso problema del pregiudizio anti-donna dal salto.)

"L'intelligenza artificiale è buona solo quanto i dati su cui sono formati e perché tutti gli umani hanno pregiudizi e pregiudizi, quando vengono utilizzati i loro dati, che pregiudizi e pregiudizi diventano parte dell'IA."-Nina Vasan, MD, psichiatra

Questi risultati illustrano come i pregiudizi manteniamo mentre le persone trasferiscono naturalmente ai prodotti che creiamo e i set di dati a cui contribuiamo. "L'intelligenza artificiale è buona solo quanto i dati su cui è addestrato e perché tutti gli umani hanno pregiudizi e pregiudizi, quando vengono utilizzati i loro dati, che pregiudizi e pregiudizi diventano parte dell'IA", afferma la psichiatra Nina Vasan, MD, Chief Medical Officer della piattaforma di terapia digitale reale e fondatore e direttore esecutivo di Brainstorm: The Stanford Lab for Mental Health Innovation.

Come Diem mira a diventare un motore di ricerca divertente e informativo specifico per le donne e le persone non binarie

Dato la demografia dell'utente previsto da Diem, Bates afferma di pensare alle informazioni condivise sulla piattaforma e generate dal chatbot come risposte alle domande che le persone hanno quando sono nella "fase degli amici" della loro vita; Le persone assorbono molte informazioni dagli amici quando sono a metà degli anni venti e trent'anni, dice. L'idea con Diem è che stai guadagnando prospettive da una varietà di persone della tua età e identità di genere con cui potresti non aver altrimenti interagito e che la comprensione collettiva avvantaggia tutti sulla piattaforma.

Poiché l'IA di Diem è alimentata con informazioni direttamente da persone di questo demografico, è una piattaforma rappresentativa per progettazione. A partire da ora, migliaia di donne e persone non binarie hanno posto domande e risposte condivise su Diem sugli argomenti rilevanti per loro, specialmente nelle categorie di salute personale, denaro e relazioni, che è dove l'IA di Diem è meglio addestrata.

Mentre sta ancora imparando, estrae da un set di dati proprietario più ampio (simile a quello che alimenta Chatgpt) per trovare informazioni su domande di cui le persone nella comunità non hanno ancora discusso. Un punto di differenziazione, tuttavia, è che spinge ancora una "risposta Diem-y riassunta" per queste domande, afferma Bates, usando le Convos Diem effettive per informare lo stile e il tono della risposta.

Tuttavia, poiché Diem è ancora un'intelligenza artificiale che fa affidamento su entrambi i contenuti generati dagli utenti e su quel set di dati più ampio, non lo è certamente immune ai problemi affrontati da altri motori di ricerca e chatbot di intelligenza artificiale, inclusi falsi, fuorvianti e, sì, persino contenuti distorti. A sua volta, c'è un pulsante all'interno dell'app e sulla versione desktop per segnalare l'abuso e la piattaforma ha pubblicato una serie di linee guida della comunità, che promuovono cose come "gentilezza e curiosità" e "coinvolgimento empatico", per garantire la sicurezza dei suoi utenti e la qualità delle informazioni.

Diem si lancia durante un periodo in cui i funzionari del governo sia negli Stati Uniti che nell'Unione europea stanno esplorando modi per regolare l'IA, in gran parte a causa delle preoccupazioni di cui sopra. Nell'u.S. In particolare, l'ufficio del presidente Joe Biden ha rilasciato una bozza di AI Bill of Rights in ottobre, un gruppo bipartisan di U.S. I senatori guidati dal senatore Chuck Schumer stanno lavorando alla legislazione per stabilire guardrail in tutto il settore e quattro agenzie governative hanno rilasciato una dichiarazione congiunta il mese scorso che delinea i poteri che tengono per regolare il settore in modo più robusto, in particolare contro la discriminazione derivante dal parzialità.

Ma Bates non è scoraggiata entrando in questo paesaggio. Prevede che ci sarà un "cambiamento interessante nel futuro di Internet", in cui le persone cercheranno informazioni che si rivolge specificamente a dove si trovano nella loro vita. Invece di chiedere a Google consigli per gli appuntamenti, ad esempio, spera che presto andrai a una piattaforma come Diem, che ti darà risposte derivate da persone con un'esperienza vissuta simile alla tua.

"In questo momento, esistiamo nei monopoli e questo influisce su come usiamo Internet e ciò che ci aspettiamo dalle piattaforme", afferma Bates. Dopotutto, quei monopoli spesso riflettono il pregiudizio a favore degli uomini. "Penso che il futuro di Internet offrirà più esperienze di nicchia", afferma. E chi può dire che una nicchia è necessariamente piccola? Come sottolinea Bates, le persone che identificano le donne costituiscono una quota quasi uguale delle persone sul pianeta. E ora, c'è una gigantesca chat di gruppo in attesa del loro contributo.

The Wellness Intel di cui hai bisogno, senza la BS che non ti iscrivi oggi per avere le ultime (e più grandi) notizie sul benessere e suggerimenti approvati da esperti consegnati direttamente alla tua casella di posta.