Сырдуу Q долбоору* OpenAIден эксперттердин тынчсыздануусун жаратууда. Ал чынында эле адамзат үчүн коркунучтуу болушу мүмкүнбү? Ал жөнүндө эмне белгилүү? Өткөн аптада Сэм Альтман иштен бошотулгандан кийин, ал жана команда дээрлик көчүп кетишти Microsoft, андан кийин ал жумуш ордуна кайтып келди (бул жөнүндө биз бул жерде жаздык), OpenAI кайрадан жаңылыктарда. Бул жолу кээ бир изилдөөчүлөр адамзат үчүн мүмкүн болуучу коркунуч деп атагандыктан. Ооба, туура окудуң, адамзатка коркунуч.
Технология дүйнөсүндөгү чыныгы толкундоого Project Q* - жалпы жасалма интеллекттин (AGI) ачыкка чыга элек долбоору - Q-Star деп аталат. Бул долбоор өзүнүн алгачкы этаптарында болсо да, ал AGI иштеп чыгууларындагы чындыгында негиздүү болуп эсептелет. Бирок айрымдар муну адамзат үчүн коркунуч катары баалап жатышат.
Белгилүү OpenAI жасалма интеллект лабораториясы тарабынан иштелип чыккан жашыруун жасалма интеллект долбоору технологияны жана жалпы эле коомду төңкөрүш мүмкүнчүлүгүнө ээ. Бирок бул тобокелдиктер жөнүндө кээ бир этикалык суроолорду жаратат. Project Q* таң калыштуу мүмкүнчүлүктөрү тууралуу майда-чүйдөсүнө чейин пайда болгон сайын, анын адамзаттын келечеги үчүн эмнени билдире тургандыгы жөнүндө көбүрөөк божомолдор пайда болууда.
Ошондой эле кызыктуу: OpenAI тарыхы: бул эмне болгон жана компанияны алдыда эмне күтүп турат
Жасалма жалпы интеллект (AGI) деген эмне?
Q* (Q-Star) долбоорунун айланасындагы дүрбөлөңдү түшүнүү үчүн, келгиле, адегенде Жасалма жалпы интеллект (AGI) концепциясы эмне жөнүндө экенин түшүнүүгө аракет кылалы. Учурдагы жасалма интеллект системалары шахмат ойноо же сүрөттөрдү түзүү сыяктуу тар, спецификалык милдеттерди аткарса, жалпы жасалма интеллект көптөгөн домендерде адамдык деңгээлде үйрөнө жана ойлоно алган машиналарды билдирет. Башкача айтканда, алар мектепте кичинекей балдардай окуй алышат, мисалы, математиканын негиздери, химия, биология ж.б.
Жалпы Жасалма Интеллект (AGI) – адамдын интеллектин же жүрүм-турумун гипотетикалык түрдө туурай алган машиналык интеллекттин бир түрү, ал потенциалды үйрөнүү жана ар кандай маселелерди чечүү үчүн колдоно алат. AGI ошондой эле күчтүү жасалма интеллект, толук жасалма интеллект же адам деңгээлиндеги жасалма интеллект деп аталат. Жалпы жасалма интеллект алсыз же тар интеллекттен айырмаланат, ал берилген параметрлердин чегинде конкреттүү же адистештирилген тапшырмаларды гана аткара алат. ZHI билимдин ар кандай тармактарынан ар кандай татаал маселелерди өз алдынча чече алат.
Жасалма интеллектти түзүү DeepMind жана Anthropic сыяктуу компаниялардын жасалма интеллект изилдөөлөрүнүн негизги багыты болуп саналат. CSI илимий фантастикалык адабиятта абдан популярдуу тема жана келечектеги изилдөөлөрдү түзүшү мүмкүн. Кээ бирөөлөр UCIди жылдар же ондогон жылдар ичинде түзүүгө болот деп айтышса, башкалары бир кылым же андан көп убакыт талап кылынышы мүмкүн деп ырасташат. Бирок бул эч качан ишке ашпайт деп эсептегендер бар. Кээ бирөөлөр GPT-3 бир URI башталышын көргөн, бирок ал дагы эле негизги критерийлерге жооп берүүдөн алыс окшойт.
Жасалма жалпы интеллектти (AGI) түзүү изилдөөчүлөр тарабынан жасалма интеллекттин ыйык дөңгөлөгү, теориялык мүмкүнчүлүгү көптөн бери алардын элестетүүсүнө ээ болгон деп эсептешет. Ошондуктан, OpenAI Project Q* сыяктуу долбоордун пайда болушу жасалма интеллекттин алгоритмин изилдөө дүйнөсүндө чоң резонанс жаратты. Бул жасалма интеллект адамдардай, же андан да жогорураак мүмкүнчүлүктөргө ээ боло турган дүйнөгө жасалган алгачкы кадамдар экенин баары түшүнсө да.
Ошондой эле кызыктуу: Бардык жөнүндө Microsoft Копилот: келечек же туура эмес жол?
Project Q* деген эмне?
Долбоор Q* типтүү алгоритм эмес, анткени ал жасалма интеллект моделине барган сайын жакындап келе жаткан жасалма жалпы интеллект (AGI) модели. Бул ChatGPTтен айырмаланып, Project Q* башка алгоритмдерге салыштырмалуу жакшыраак ой жүгүртүү жана когнитивдик жөндөмдөрдү көрсөтөт дегенди билдирет. ChatGPT учурда көптөгөн фактылык материалдарга негизделген суроолорго жооп берет, бирок AGI менен AI модели ой жүгүртүүнү жана өзү үчүн ойлонуу жана түшүнүү жөндөмүн үйрөнөт. Долбоор Q* анын окуу материалына кирбеген жөнөкөй математикалык маселелерди чечүүгө жөндөмдүү экендиги буга чейин белгилүү. Муну менен кээ бир изилдөөчүлөр жалпы жасалма интеллектти (AGI) түзүүгө карай олуттуу кадамды көрүшөт. OpenAI AGIди адамдарга караганда акылдуу жасалма интеллект системалары катары аныктайт.
Q* долбоорун иштеп чыгууну OpenAIнин башкы окумуштуусу Илья Суцкевер башкарат жана анын негизин изилдөөчүлөр Якуб Пахоцкий жана Шимон Сидор негиздеген.
Алгоритмдин математикалык маселелерди өз алдынча чече алуу жөндөмү, ал тургай, бул маселелер окуу маалыматтар топтомунун бир бөлүгү болбосо да, жасалма интеллект тармагындагы ачылыш болуп эсептелет. Бул долбоор боюнча командадагы пикир келишпестиктер OpenAI CEO Сэм Альтмандын убактылуу четтетилиши менен байланыштуу. Белгилүү болгондой, Альтман кызматтан бошотулганга чейин компаниянын изилдөөчүлөрүнүн тобу директорлор кеңешине кат жолдоп, адамзатка коркунуч туудурган интеллекттин ачылышы тууралуу эскертишкен. Долбоор Q* алгоритмин талкуулаган ал кат Альтмандын иштен алынышына себеп болгон факторлордун бири катары айтылган. Бирок, Q* долбоорунун мүмкүнчүлүктөрү жана ал алып келиши мүмкүн болгон тобокелдиктер толук түшүнүлгөн эмес, анткени чоо-жайы белгисиз. Жалпы коомчулукка эч нерсе жарыяланган жок.
Негизинен, Project Q* айлана-чөйрө жөнүндө алдын ала билимди талап кылбастан, салттуу моделдерден четтеген, моделсиз бекемдөөчү окутуу ыкмасы болуп саналат. Тескерисинче, ал сыйлыктарга жана жазаларга негизделген иш-аракеттерди ыңгайлаштырып, тажрыйба аркылуу үйрөнөт. Техникалык эксперттер Project Q* адамдын когнитивдик жөндөмдүүлүктөрүнө окшош жөндөмдүүлүктөргө ээ болуу менен эң сонун мүмкүнчүлүктөрдү ала алат деп эсептешет.
Бирок, дал ушул өзгөчөлүк жасалма интеллекттин жаңы моделиндеги эң таасирдүү, изилдөөчүлөрдү жана сынчыларды тынчсыздандырып, технологиянын реалдуу дүйнөдөгү колдонулушу жана анын негизги тобокелдиктери жөнүндө кооптонууну жаратат. Окумуштуулар жана изилдөөчүлөр эмнеден мынчалык коркушат? Келгиле, аны аныктап көрөлү.
Ошондой эле кызыктуу: Wi-Fi 6ды колдоо үчүн үй түзмөктөрүңүздү кантип жаңыртса болот
Алар белгисиз нерседен коркушат
Адамдар ар дайым белгисиз, билинбеген нерседен коркуп келишкен. Бул адамдык маңызы, биздин кулк-мүнөзүбүздүн, жашоо образыбыздын өзгөчөлүгү.
Технология дүйнөсү Q* долбоору тууралуу 2023-жылдын ноябрында Reuters агенттигинен кийин билди билдирди кызыкдар OpenAI изилдөөчүлөрү жазган ички кат жөнүндө. Каттын мазмуну бүдөмүк болгон, бирок анда Q* долбоорунун мүмкүнчүлүктөрү олуттуу түрдө талдоого алынганы айтылат. Мен жогоруда айткандай, Сэм Альтмандын отставкага кетишине дал ушул кат себеп болгон деген божомолдор да бар.
Бул жарылуучу ачылыш долбоордун Q* табиятына байланыштуу ар кандай гипотезаларды пайда кылды. Окумуштуулар бул AI үчүн революциялык табигый тил модели болушу мүмкүн деп айтышты. Жаңы алгоритмдердин бир түрү, аларды AIнын башка формалары үчүн түзө турган же бул тармакта таптакыр башка нерсе.
Алтмандын "орточо кызматкер" катары жалпы жасалма интеллект тууралуу провокациялуу комментарийлери жумуштун коопсуздугу жана AI таасиринин токтобостон кеңейиши боюнча тынчсызданууну жаратты. Бул сырдуу алгоритм Жасалма жалпы интеллекттин (AGI) өнүгүүсүндөгү этап катары аныкталган. Бирок, бул этап кымбат экенин баары түшүнөт. Анан кеп азыр акчада эмес. Жаңы AI модели убада кылган когнитивдик көндүмдөрдүн деңгээли аны менен бирге белгисиздикти алып келет. OpenAI окумуштуулары AI адамдык деңгээлдеги ой жүгүртүүгө ээ болот деп убада кылышат. Ал эми бул биз көп нерсени билип, кесепеттерин алдын ала айта албайбыз дегенди билдирет. Жана канчалык белгисиз болсо, аны көзөмөлдөөгө же оңдоого даярдануу ошончолук кыйын болот. Башкача айтканда, жаңы алгоритм өзүн-өзү өркүндөтүүгө жана өнүктүрүүгө жөндөмдүү. Биз буга чейин бир жерден көргөнбүз...
Ошондой эле кызыктуу: Windows 12: Жаңы OS кандай болот
Project Q мүмкүнчүлүктөрү жөнүндө укмуштуудай маалымат*
Көбүрөөк маалымат чыга баштаганда, ал көптөгөн изилдөөчүлөрдү таң калтырды. Алгачкы көрсөткүчтөр Q* долбоору математика боюнча укмуштуудай жөндөмгө ээ болгон. Механикалык эсептөөлөрдү жүргүзгөн калькулятордон айырмаланып, Project Q* татаал математикалык маселелерди чечүү үчүн логиканы жана ой жүгүртүүнү колдоно алат. Бул математикалык жөндөм кенен интеллектти өнүктүрүү боюнча ишараттарды жалпылоо.
Типтүү AIлерди окутуу үчүн колдонулган конкреттүү маалымат топтому жок, Q* долбоорунун автономдуу окутуусу да алдыга чоң кадам болот. Project Q* башка көндүмдөрдү өздөштүргөнбү белгисиз. Бирок анын математикалык жөндөмдөрү ушунчалык таң калыштуу болгондуктан, тажрыйбалуу изилдөөчүлөрдү да чаташтырышат.
Ошондой эле окуңуз: Адамдын мээси долбоору: Адамдын мээсин тууроо аракети
Долбоор Q* үстөмдүк үчүн жол?
Бул маселеде оптимисттик да, пессимисттик да сценарийлер бар. Оптимисттер Project Q* технологиялык ачылышка алып келген учкун болушу мүмкүн деп айтышат. Система рекурсивдүү түрдө өзүн-өзү өркүндөтүп жаткандыктан, анын табияттан тышкаркы интеллекти климаттын өзгөрүшүнөн баштап ооруну көзөмөлдөөгө чейин адамзаттын эң маанилүү көйгөйлөрүн чечүүгө жардам берет. Q* долбоору кызыксыз иштерди автоматташтыра алат жана бош убактыбызды башка иштерге бошотот.
Дагы көптөгөн пессимисттик варианттар бар да. Кээде, алар абдан акылга сыярлык жана белгилүү бир мааниге ээ.
Жумуштарды жоготуу
Технологиянын өнүгүүсүндөгү тез жылыштар адамдардын жеке адаптациясынан ашып түшүшү мүмкүн. Бул жаңы реалдуулукка ыңгайлашуу үчүн керектүү көндүмдөрдү же билимдерди ала албай турган бир же бир нече муундун жоголушуна алып келет. Башкача айтканда, бул, өз кезегинде, азыраак адам өз ишин сактап кала алат дегенди билдирет. Анын ордуна машиналар, автоматташтырылган системалар жана роботтор тарабынан аткарылат. Бирок, квалификациялуу адистерге келгенде жооп анчалык так эмес. Мындан тышкары, атайын жасалма интеллект алгоритмдерин иштеп чыгуу менен байланышкан жаңы кесиптер пайда болушу мүмкүн. Бирок дагы деле тобокелчиликтер бар жана адамзаттын аларга көңүл бурбай коюуга акысы жок.
Көзөмөлсүз бийлик коркунучу
Эгер Project Q* сыяктуу күчтүү AI арам ниеттеги адамдардын колуна түшсө, ал адамзат үчүн катастрофалык кесепеттерге алып келет. Потенциалдуу зыяндуу ниет болбосо дагы, Q* долбоорунун чечим кабыл алуу деңгээли зыяндуу натыйжаларга алып келиши мүмкүн, бул анын колдонулушун кылдаттык менен баалоонун маанилүүлүгүн баса белгилейт.
Эгерде Project Q* адамдын муктаждыктары үчүн начар оптималдаштырылса, ал кээ бир ыктыярдуу метрикаларды максималдуу көбөйтүү жөндөмүнө зыян келтириши мүмкүн. Же анын саясий өңүтү болушу мүмкүн, мисалы, мамлекеттик көзөмөлгө же репрессияга колдонулат. Q* Долбоорунун таасирин талдоо боюнча ачык дебат ZHI өнүктүрүүнүн мүмкүн болгон сценарийлерин аныктоого жардам берет.
Биз "Адам менен машина" беттешүүсүнө даярбызбы?
Голливуд буга чейин өзүнүн тасмаларында мындай тирешүүнүн көптөгөн сценарийлерин жараткан. Атактуу SkyNet жана мындай ачылыштын кесепеттери баарыбыздын эсибизде. Балким, OpenAI изилдөөчүлөрү бул тасманы кайра көрүшү керекпи?
Адамзат сигналдарды жана чакырыктарды кабыл алып, эмне болушу мүмкүн экенине даяр болушу керек. Адам сыяктуу ойлонууга жөндөмдүү жасалма интеллект модели качандыр бир күнү биздин душманыбыз болуп калышы мүмкүн. Көптөр келечекте илимпоздор кырдаалды кантип көзөмөлгө алууну так билишет деп ырасташат. Ал эми машиналарга келгенде, алар адамдарды басып алууга аракет кылышы мүмкүн экенин толук жокко чыгара албайсың.
Ошондой эле кызыктуу: Биз AI деп атаган нерселердин бардыгы эле жасалма интеллект эмес. Бул жерде сиз эмнени билишиңиз керек
OpenAI эмне үчүн унчукпайт?
Q* долбооруна коомчулуктун кызыгып жатканына карабастан, OpenAIнин жетекчилиги алгоритмдин өзгөчөлүктөрү тууралуу унчукпай келет. Бирок ички агып чыгуу артыкчылыктарга жана өнүгүүлөрдүн ачыктыгына байланыштуу лабораторияда чыңалуунун күчөп баратканын көрсөтүп турат. Көптөгөн OpenAI инсайдерлери Project Q* түзүлүшүн колдошкону менен, сынчылар ачык-айкындуулук илимий прогрессти тездетүү үчүн кандай гана баа болбосун арткы орунга чыкты деп ырасташат. Ал эми кээ бир изилдөөчүлөр максаттары сөзсүз түрдө адамдык баалуулуктарга жана этикага дал келбеген системаларга укмуштай күч берилет деп кооптонушат. Бул изилдөөчүлөр көзөмөл жана отчеттуулуктун тегерегиндеги талаш-тартыштар коркунучтуу түрдө токтоп калды деп эсептешет. Алар көбүрөөк жарыялоону жана деталдарды талап кылат.
Project Q* түзүүчүлөрү катары OpenAI аларда коомдун өнүгүү мүмкүнчүлүктөрүн кыйла кеңейте турган, же аны аёосуз жок кыла турган технология бар экенин түшүнүшү керек. Мындай олуттуу инновациялар элдин ишенимин арттыруу үчүн алда канча ачык-айкындуулукка татыктуу. Машина курагынын ар бир прогнозчулары пайдалары менен бирге тобокелдиктерди кылдаттык менен таразалап алышы керек. Жана Q* долбоорунун иштеп чыгуучулары коомду биз ойлогондон да тезирээк келе турган жалпы жасалма интеллекттин жаңы дооруна аман-эсен баштоо үчүн жетиштүү акылмандык жана кам көрүшү керек.
Жалпы жасалма интеллект адамзат үчүн пайдалуу жана коопсуз болушу үчүн, анын коопсуз, этикалык жана адамзаттын баалуулуктарына жана максаттарына ылайык иштеши камсыз кылынышы керек. Бул ЖККнын аракеттерин жана жүрүм-турумун контролдоочу жана чектөөчү тиешелүү ченемдик укуктук актыларды, стандарттарды, эрежелерди жана протоколдорду иштеп чыгууну жана ишке ашырууну талап кылат. Мындан тышкары, адамзаттын жок болушуна алып келиши мүмкүн болгон кыянатчылыктар, кырсыктар, келишпестиктер, манипуляциялар жана чыр-чатактар менен байланышкан потенциалдуу коркунучтар жана тобокелдиктер жок кылынууга тийиш. Ошол эле учурда инвесторлор жана Microsoft пайда алып келе турган товардык продуктуну чыдамсыздык менен күтүү, албетте, жоопкерчилик менен иш-аракет кылуу зарылчылыгы менен карама-каршы келет. Келгиле, акыл-эс жеңет деп үмүт кылалы.
Ошондой эле окуңуз: