Жума күнү, Коко негиздөөчүсү Роб Моррис билдирди Twitter, анын компаниясы алдын ала эскертүүсүз 4 адамга AI-жазылган психикалык ден соолук боюнча кеңеш берүү үчүн эксперимент жүргүзгөнүн The Verge билдирди. Сынчылар экспериментти этикага туура келбейт деп аташкан, анткени Коко кеңеш сураган адамдардын макулдугун алган эмес. Коко психиатриялык жардамга муктаж болгон өспүрүмдөрдү жана чоңдорду волонтерлор менен байланыштырган коммерциялык эмес психикалык ден соолук платформасы. Telegram жана Discord.
Discord'та колдонуучулар Koko Cares серверине кирип, Koko ботуна түз билдирүүлөрдү жөнөтүшөт, ал бир нече варианттуу суроолорду берет (мисалы, "Бул тууралуу сизде эң караңгы ойлор кандай?"). Андан кийин ал анонимдүү түрдө бир нече сүйлөмдөр катары жазылган адамдын тынчсыздануусун сервердеги башка бирөө менен бөлүшөт, ал өзүнүн кыска билдирүүсү менен анонимдүү түрдө жооп бере алат.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Моррис 30 3ге жакын билдирүүлөрдү камтыган жасалма интеллект (AI) экспериментинде, башкаларга жардам берип жаткан ыктыярчылар OpenAIдин GPT-3 чоң тил модели тарабынан автоматтык түрдө түзүлгөн жоопту өз алдынча жазуунун ордуна колдонуу мүмкүнчүлүгүнө ээ болушкан. (GPT-XNUMX артындагы технология жакында популярдуу ChatGPT чатботу). Моррис өзүнүн твиттеринде адамдар AI тарабынан түзүлгөн жоопторду AI тарабынан жазылганын билгенге чейин макташканын белгилеп, эксперименттин жок дегенде бир баскычында маалымдалган макулдуктун негизги жоктугун сунуштайт:
«AI тарабынан түзүлгөн билдирүүлөр (жана адамдар тарабынан башкарылат) адамдардын өздөрү жазган билдирүүлөрдөн бир топ жогору бааланган. Жооп берүү убактысы 50% га бир мүнөткө чейин кыскарды. Бирок… биз бул функцияны платформабыздан тез эле алып салдык. Неге? Адамдар билдирүүлөр машинадан жасалганын билгенден кийин, ал иштебей калды. Симуляцияланган симпатия кызыктай, бош көрүнөт».
Сервердин кириш сөзүндө администраторлор: “Коко сени чындап түшүнгөн чыныгы адамдар менен байланыштырат. Терапевт эмес, кеңешчи эмес, жөн гана сага окшогондор». Моррис билдирүүнү жарыялагандан көп өтпөй, ал экспериментти этикага туура келбеген деп сындаган көптөгөн жоопторду алды, маалыматтуу макулдуктун жоктугуна байланыштуу тынчсызданууларды келтирип жана эксперимент Институттук кароо кеңеши (IRB) тарабынан жактырылганбы деген суроого жооп алды. Америка Кошмо Штаттарында, эгерде IRB макулдуктан баш тартууга боло тургандыгын аныктамайынча, юридикалык жактан натыйжалуу маалымдалган макулдугусуз адам субъекттери боюнча изилдөө жүргүзүү мыйзамсыз.
Жооп иретинде твиттерде Моррис эксперименттин маалыматтуу макулдук талаптарынан "бошотулганын" айтты, анткени ал жыйынтыктарды жарыялоону пландабагандыктан, нааразылык парады пайда болду.
AIны терапевт катары колдонуу идеясы жаңы эмес, бирок Коконун эксперименти AI терапиясынын типтүү ыкмаларынан айырмаланып турган нерсе, бейтаптар тирүү адам менен сүйлөшпөгөнүн билишет. Кокодо платформа гибриддик ыкманы камтыган, анда адам ортомчу түз чат форматынын ордуна билдирүүнү жөнөтүүдөн мурун карап чыга алат. Бирок, маалымдалган макулдугусуз, сынчылар Коко аялуу адамдарды зыяндуу же ырайымсыз изилдөө практикасынан коргоо үчүн иштелип чыккан этикалык эрежелерди бузган деп айтышат.
Мурдагы IRB мүчөсү жана төрагасы катары сүйлөп жатып, сиз IRB уруксатысыз же бошотуусуз калктын аялуу катмары боюнча адамдык изилдөө жүргүздүңүз (Сиз чечим кабыл ала албайсыз). Балким, MGH IRB проcess ушунчалык жай, анткени ал ушул сыяктуу нерселер менен алектенет. Керексиз кеңеш: юрист
— Дэниел Шоскес (@dshoskes) January 7, 2023
Дүйшөмбү күнү Моррис талаш-тартыштарга жооп берип, Коконун GPT-3 жана AIге болгон сапарын түшүндүргөн пост жарыялады: “Мен бул иш боюнча сынды, тынчсызданууларды жана суроолорду эмпатия жана ачыктык менен кабыл алам. Биз купуялуулук, ачыктык жана тобокелдиктерди азайтуу үчүн терең тынчсыздануу менен AIнын ар кандай колдонулушу сезимтал болушун камсыздоого умтулабыз. Биздин Клиникалык Консультативдик Кеңешибиз келечектеги иш боюнча көрсөтмөлөрдү, анын ичинде IRB бекитүүсүн талкуулоо үчүн чогулуп жатат.
Сиз Украинага орус баскынчыларына каршы күрөшүүгө жардам бере аласыз. Мунун эң жакшы жолу - Украинанын Куралдуу күчтөрүнө каражат берүү Savelife же расмий баракчасы аркылуу NBU.
Ошондой эле окуңуз: