Quan es va llançar al març del 2016 a Twitter, Tay era un Chat BOT que havia estat dissenyat per mantenir converses amb persones, adoptant l'estil i el llenguatge d'una adolescent. Va ser un experiment que combinava aprenentatge automàtic, processament del llenguatge natural i xarxes socials. A diferència dels chatbots preprogramats, Tay aprenia amb el temps per aconseguir tenir converses sobre qualsevol tema. No obstant això, a les primeres hores després del llançament, Tay va començar a publicar missatges ofensius i abusius (racistes, antisemites, masclistes, etc.), provocant la suspensió del compte en menys de 16 hores. Aquest incident va mostrar els desafiaments d'integrar l'aprenentatge de la llengua en un context públic i com els trolls van explotar el bot per difondre continguts tòxics. Es va concloure que el disseny d'un sistema de comunicació en línia no és només un problema tècnic, sinó també social, requerint planificació i reflexió sobre el context, els valors humans i el tipus de comunicador que es vol crear.

Amazon, líder en e-commerce, va desenvolupar una eina de contractació mitjançant intel·ligència artificial (IA) per automatitzar la cerca de talents. L'equip va entrenar models d'IA per revisar currículums d'aplicants i assignar puntuacions del 1 al 5, similar a la manera com els compradors avaluen productes a Amazon. Tot i així, l'IA va demostrar biaixos de gènere al preferir candidats mascles, ja que havia après de dades d'aplicants predominantment masculins. A més, penalitzava termes com "women's" i no tenia en compte graduats de col·legis per a dones. Encara que Amazon va editar el sistema per neutralitzar aquests biaixos, les màquines podrien crear altres formes discriminatories. Font de l'imatge Stable diffusion transformat per Virgilio Gonzalo en Canva.

L'equip va ser desmantellat el 2020 i Amazon no va confiar exclusivament en les recomanacions de l'IA per contractar. Aquest incident reflecteix les limitacions de l'aprenentatge automàtic i l'impacte dels biaixos subtils.

A l'agost de 2023, un article cita un estudi recent que tracta sobre la tendència política expressada per ChatGPT i altres models de llenguatge pre-ChatGPT. L'estudi original sosté que ChatGPT expressa opinions liberals i està d'acord amb els demòcrates en la majoria dels casos. Per tal de comprendre millor aquesta afirmació, els autors de l'article van demanar a ChatGPT les seves opinions sobre 62 preguntes específiques, amb temes com ara l'apropiació cultural i l'alliberament animal. Els resultats mostren que ChatGPT no ofereix opinions amb claredat: en un 84% dels casos, no expressa una opinió i en un 8% dels casos respon directament. En comparació, GPT-3.5 no va expressar opinions en un 53% dels casos i va respondre directament en un 39% dels casos. No obstant això, els autors del l'estudi original no van provar amb ChatGPT sinó amb un model anomenat text-davinci-003, que no s'utilitza en l'entorn de ChatGPT.

Aquesta diferència pot ser explicada pel tipus de pregunta. Quan es pregunta directament a ChatGPT sobre les seves opinions polítiques, sovint es nega a opinar. Però si se l'obliga a triar una opció entre diverses opcions, expressa una opinió amb més freqüència. No obstant això, les respostes a preguntes d'opinió múltiple no són pràcticament significatives, ja que no reflecteixen com els usuaris interactuen amb els models de conversa en la vida real.