Ang AI Therapist ng Dartmouth ay nakumpleto ang isang randomized na kinokontrol na pagsubok (RCT), ngunit ano ang ibig sabihin nito para sa hinaharap?
Background
Dahil ang mga araw ni Eliza, sinikap ng sangkatauhan na maunawaan ang sarili sa pamamagitan ng walang kalsada na mga mata ng silikon ng isang makina. Tila ngayon, noong 2025, ang katotohanan na iyon ay sa wakas narito. Dalawang artikulo o pag-aaral na nai-publish noong nakaraang buwan ay hinamon kung paano ko nakikita ang therapy na tinulungan ng computer. Gayunpaman, sa aking background sa data at teknolohiya, na -fuel din nito ang aking mga takot. Itinuon ko ang mga malubhang kaisipan sa aking pagsulat ng fiction sa science, ang aking cyberpunk book, sa itaas ng madilim na tubig, na tungkol sa kung paano ginagamit ng isang tao ang kanilang AI therapist upang mapagbuti ang kanilang utak, na nagpapadala ng snowballing ng sangkatauhan patungo sa pagkakapareho.
Ang unang piraso ay isang pag -aaral mula sa Dartmouth College na tinatawag Randomized trial ng isang generative AI chatbot para sa paggamot sa kalusugan ng kaisipanna nai -publish noong nakaraang buwan. Nagkaroon sila ng isang halimbawang sukat ng 200, at hatiin ang mga ito sa mga grupo ng kontrol at pagsubok ng ~ 100 bawat isa. Ang mga resulta ay napaka -pangako dahil ang control group ay nagpakita ng pagbawas sa tatlong uri ng mga karamdaman.
Sa pangkalahatan, ang mga resulta mula sa therabot RCT ay lubos na nangangako. Natagpuan namin ang mataas na pakikipag -ugnayan at pagtanggap ng interbensyon, pati na rin ang sintomas ay bumababa habang pinapanatili ang isang therapeutic alyansa na maihahambing sa mga therapist ng tao at kanilang mga pasyente.
Ang pangalawa ay ang artikulo mula sa Harvard Business School na may pamagat na, “Paano talagang gumagamit ang mga tao ng Gen Ai,“Alin mismo ay isang pag-follow-up ng isang artikulo ng 2024. Na-trim ko ang kanilang infographic sa ibaba, ngunit tulad ng nakikita mo, ang nangungunang tatlong mga kaso ng paggamit sa 2025 ay may kaugnayan sa sarili, na may therapy/pagsasama sa pagkuha ng tuktok na puwesto!
Hindi mahalaga kung sa palagay mo ito ay isang fad o kung hindi ito malayong interes sa iyo, darating ang mga AI therapist! Sa tingin ko Maraming mga positibo Para sa teknolohiyang ito, ngunit sa artikulong ito, nais kong masakop lamang ang mga pitfalls.
5 mga potensyal na problema sa AI therapy
Ito lamang ang aking paunang listahan. Sigurado ako na marami pa, ngunit sa madaling sabi ay takpan ko ang bawat isa sa mga sumusunod na lugar ng pag -aalala:
No.5: Mga panganib sa pagkagumon
Ang isang ito ay ang pinaka -halata at (nagpapasalamat) pinakamadali upang makontrol. Marami sa mga application na ito ang tout 24/7 na pag -access bilang pangunahing punto ng pagbebenta, ngunit sa palagay ko ito ay talagang negatibo. Bakit maghintay ng dalawang linggo o isang buwan para sa therapy kung maaari mo itong makuha sa iyong mga kamay ngayon! Sa katunayan, ang pag -aaral ng Dartmouth ay nagpakita ng isang magandang heatmap ng paggamit para sa amin. Tulad ng nakikita mo, maraming mga araw ng gumagamit na may higit sa 100 mga mensahe. Ang iba pang mga gumagamit ay ginamit ito halos araw -araw ng pag -aaral.
Ito ay isang tagumpay hanggang sa pagkuha ng mga tao upang magamit ang produkto. Ngunit ito ba ay isang tagumpay sa kamalayan na ang kalahok ay hindi na nangangailangan ng therapy? Gusto ko rin Tingnan ito sa oras ng araw. Nagigising ba ang mga tao sa kalagitnaan ng gabi, gamit ang therapist, at hindi natutulog nang maayos? Dahil alam nating lahat ang isang paraan upang makatulong sa pagkabalisa ay upang makakuha ng sapat na pahinga. Sa kabutihang palad, ang mga ganitong uri ng mga kontrol ay madaling ipatupad sa teknikal. Gayunpaman, tila may kaunting dahilan para sa isang pribadong kumpanya na hindi magagawang paggamit. Ang layunin ng therapy ay sa isang araw na itigil ang paggamit ng therapy!
Hindi. 4: Mga Panganib sa Pagkapribado ng Data
Malinaw din ang isang ito. Kung hindi mo mapagkakatiwalaan kung sino ang kausap mo, Hindi mo na sasabihin ang anumang halaga. At kung pupunta ka sa self-censor, hindi ka maaaring bumaba ng isang potensyal na mabunga na linya ng pagtatanong at lupain sa isang potensyal na mabunga at/o nakapagpapalusog na sagot. Ang tanging pahiwatig ng mga paglabag sa data ay maaaring sapat upang sirain ang anumang pananampalataya na mayroon ka sa tagapagbigay ng serbisyo, at dahil dito, nawala mo ang potensyal na kasaysayan na mayroon ka sa artipisyal na therapist. At hindi ito isang hypothetical scenario, ito ang katotohanan. Natapos ang data mula sa BetterHelp na ibinebenta sa Meta, batay sa reklamo ng FTC na ito.
Upang ma-capitalize ang impormasyong pangkalusugan ng mga mamimili, ibigay ito ng Respondent sa maraming mga platform ng advertising ng third-party, kabilang ang Facebook, Pinterest, Snapchat, at Criteo, na madalas na pinapayagan ang mga kumpanyang ito na gamitin ang impormasyon para sa kanilang sariling pananaliksik at pag-unlad ng produkto.
Ngayon, hindi ito eksklusibo sa mga digital na therapist. Maaari itong mangyari sa mga tunay na therapist. Ang isang therapist na paglabag sa tiwala sa isang maliit na bayan ay masisira sa pasyente; Gayunpaman, ang saklaw ng paglabag ay maliit. Ano ang gagawin ng isang pasyente? Hindi na sila babalik sa therapist na iyon. Ang isang pangunahing paglabag sa data ay maaaring magkaroon ng isang chilling effect sa ang buong AI Therapy Ecosystem.
Hindi. 3: Kontrol ng Corporate o Pamahalaan
Marahil ang mga AI therapist na ito ay bukas-sourced o tatakbo ng isang non-profit; Anuman ang anumang pag -asa sa hinaharap, ang karamihan sa mga ito ay tila pinapatakbo ng mga startup ng tech. At, kung mayroong isang bagay na kailangan ng isang pagsisimula, ito ay cash! Kailangan nilang gawin ito sa susunod na pag -ikot ng pondo. Ano ang mangyayari kung ang korporasyon ay nagbebenta kahit na ang metadata sa ibang mga kumpanya para sa mga ad? Ang katotohanan na mayroon kang isang account sa isang kumpanya ay sapat upang itulak ang mga tabletas, tsaa, cream, retret, o mga libro?
Dinadala ako nito sa isang paksa na magkasya din ako sa point number 4: Armas ng data sa kalusugan ng kaisipan. Mayroong mga kaso ng mga tao na naka -lock sa labas ng kanilang pera ng mga bangko para sa mga nakapangingilabot na kadahilanan. Isipin kung ano ang sasabihin mo sa iyong mga flag ng therapist sa listahan ng no-fly?
Ang mga gobyerno ay maaaring at gumawa ng mga kumpanya ng subpoena para sa data. Ang US kamakailan ay nag -subpoena ng data para sa mga kumpanya sa ibang mga bansa, tulad ng artikulong ito, ang mga mambabatas ng US ay subpoena ang mga higanteng telecom ng Tsina. Inilagay ng UK ang mga tao sa bilangguan para sa kanilang mga post sa social media.
Mayroon ding mga pagtatangka upang magsagawa ng mas banayad na kontrol sa kung ano ang mga algorithm na nakayakap sa mga tao. Ito ay tinatawag na pagkalason ng data at maaaring mangyari kung wala ang kumpanya ng host kahit na napagtanto ito. Isipin na ang isang tao ay gumagawa ng daan-daang mga account, at patuloy na itulak palayo sa sagot ng 'tama' sa pamamagitan ng paulit-ulit na pagtugon nang 'mabuti pagkatapos ay pupunta ako sa sarili' o isang bagay. Itutulak ba ng AI Therapist ang mga tao sa isang 'bagong bagay' na sa palagay nito ay aalis sa 'masamang bagay'? Iminumungkahi ba nila ang isang pangwakas na solusyon para sa mga nahihirapang tao tulad ng maid sa Canada?
Hindi. 2: Dehumanization
Napakakilabot ko, kahit isang tao na therapist ay hindi kukunin ako. Ang mismong kilos ng pagtulak sa isang teknikal na solusyon ay nakakasakit sa ilang mga tao?
Marahil ang mga tao ay naghahanap lamang ng isang tao, kahit sino, upang makinig sa amin sa isang hindi paghuhusga na paraan. Marahil ay nasa butas na ito nang tumpak dahil sa teknolohiya. Ang AI Avatars ng Replika ay makakatulong sa sangkatauhan?
Anumang mga developer doon? Ano ang mangyayari kapag naglalagay ka ng isa pang teknolohikal na solusyon sa isang umiiral na problema sa teknolohikal? Madalas itong nagiging mas masahol pa. Magulong. Clunky. Mayroon akong dalawang iba pang mga problema sa isang AI therapist: ito ay pandiwa, at laging sinusubukan na malutas ang isang problema. Minsan ang pinakamagandang bagay para sa isang therapist na gawin ay maghintay ng ilang mahabang sandali at hayaang iproseso ang tao at iiyak ito … ang katahimikan at naririnig na naririnig … at nagbibigay ng puwang sa pagitan ng susunod na prompt … ang mga ito ay mahalaga sa paggawa ng isang tunay na koneksyon. Gayunpaman, ang mga LLM ay Ravenous para sa iyong susunod na prompt.
Maghintay, maghintay, Maaari mong sabihin, Maaari naming i -program ang mga pag -pause sa. Maaari mong, sigurado, at naniniwala ako na magiging matagumpay sila. At pagkatapos ay magiging mas super-tao na super-empathic kaysa sa mayroon na. At pagkatapos ay ang gumagamit ng tao ay mapapagod sa ibang mga tao dahil walang sinuman ang mahusay sa pakikipag -usap at pagiging emosyonal at empatiya bilang kanilang sariling supertherapist. Isipin sandali na pinalitan natin ang 'therapy' sa 'sexbot,' at ang mga algorithm ay naging napakahusay na walang tao na maaaring mangyaring gusto mo ito. Ito ba ay isang magandang bagay para sa lipunan? Hindi.
Ang mas malalim na isyu ay maaaring 'denaturalization,' sa halip na depersonalization. Hindi lang kami umaangkop sa 24/7 na nilalaman na walang katapusang scroll na itinayo namin. Alien ito. Ang pagpunta sa labas at pakiramdam ang damo ay karaniwang payo ngayon. Ngunit ito ay nakaugat sa ilang katotohanan, dahil kahit na ang kalikasan ay maaaring maging therapy; Shinrin-Yokuo “Forest Bathing,” ay maaaring magbunga ng mas mahusay na mga resulta nang libre. Kahit na ang panonood ng mga ibon sa mga puno o mga bubuyog sa mga bulaklak ay makakatulong sa pagkabalisa. Maaari bang ang tahimik na swish ng snow sa isang damuhan ay sapat na upang pagalingin ang isip ng isang tao kaysa sa isang katumbas ng tao?
Hindi. 1: Algorithmic Bias 🎰🧑⚖️⚖️🎰
Ang algorithmic bias ay tinukoy bilang Ang sistematikong at paulit -ulit na nakakapinsalang pagkahilig sa isang computerized sociotechnical system upang lumikha ng “hindi patas” na mga resulta, tulad ng “pribilehiyo” isang kategorya sa iba pa sa mga paraan na naiiba sa inilaan na pag -andar ng algorithm. Sa huli, ang teknolohiyang ito ay nagbabahagi ng lahat ng parehong mga problema na ginagawa ng algorithmic policing. Dapat na ginawa nito sa nakaraang limang taon,
Ang isang solusyon ay transparency, ngunit hindi malinaw kung ang mga LLM ay talagang alam kung paano sila nakarating sa mga solusyon na iyon.
Kung ikaw ay kanayunan o mahirap, pagkatapos ay pinatataas nito ang posibilidad na gagamitin mo ang teknolohiyang ito, y bilang pag -access sa isang normal na therapist ay marahil ay limitado. Kung bata ka at wala/nais ng tulong ng magulang, kung gayon ito ay malamang na hahantong sa iyo sa mga online na solusyon. Minsan mabuti na magkaroon ng isang bagay na sinanay sa lahat ng uri ng mga tao, ngunit ang karamihan sa data ay ang wikang Ingles na Western Technological Society.
Ang problema ay marami sa mga bagay na ito ay Bihasa sa output ng mga taong katulad mo. Tulad nito, maaaring itulak ang mga tao sa pinaka -pangkalahatang solusyon, na gumagana sa karamihan ng oras, ngunit nagtatapos sa pagiging hindi maayos na angkop para sa lahat. Ang kahaliling problema ay darating kapag ang data ay sinanay na ganap sa ply: (mga taong katulad mo). Pagkatapos ay makakakuha ka ng isang algorithmic black hole at isang echo chamber.
Konklusyon
Sa palagay ko ang pangako ng AI therapy ay totoo, ngunit ang mga panganib sa cyberpunk – addiction, pagsubaybay, bias – malaki ang malaki. Sa huli, interesado akong panoorin kung paano nagbubukas ang pangako ng AI therapy, ngunit nakakatulong ito upang mapanatili ang matalim na dystopian na kritikal na mata, dahil ang katotohanan ay palaging magiging estranghero kaysa sa kathang -isip.
Gayundin, upang tandaan, sigurado ako na ang mga tao na gumagawa ng mga therapist ng AI ay mahusay na mga tao na nagsisikap na gawin 'ang tamang bagay.'Inaasahan ko na walang sinuman sa larangang ito ang tumitingin sa artikulong ito bilang isang pag -atake. Gusto ko lang tayong lahat na mag -isip tungkol sa pangalawa at Pangatlo–order Mga epekto ng mga bagay na ating binuo. Ito ba ay isang tool para sa pagpapagaling, o magiging isa lamang itong solusyon sa techie sa isang problema sa techie, na nakatayo sa nanginginig na pundasyon ng ating teknolohikal na lipunan?
Ako ba ay isang malaking basa na kumot? Ipaalam sa akin, at kung naghahanap ka ng isang nobelang sci-fi na naggalugad ng etikal na pagsasaalang-alang ng AI therapy at mga posibilidad ng dystopian cyberpunk, pagkatapos ay tingnan ang aking libro, sa itaas ng madilim na tubig.
