Phi жасалма интеллект модели Microsoft - кичинекей, арзан жана "галлюцинация" менен оорубайт. Келечеги чоң болору болжолдонгон жаңы тил модели тууралуу ушуну айтышат.
GPT абдан сонун, бирок ошол эле учурда абдан кымбат жана ал бардыгы үчүн идеалдуу боло албайт. Ушул жана башка көптөгөн себептерден улам Microsoft алда канча кичинекей AI моделдери менен эксперимент жүргүзүп жатат. Phi-3-mini OpenAI инженерлеринин ишин уятка калтырат дешет.
Ошондой эле кызыктуу: Келечектин транзисторлору: бизди чиптердин жаңы доору күтүп турат
ChatGPT панацея эмес
ChatGPT – каржыланган, кураторланган жана өркүндөтүлгөн ойлоп табуу Microsoft. Чынында, ал тиешелүү эмес Microsoft, жана OpenAI компаниясы, кайсы Microsoft ээлик кылбайт (ал ири инвестор болбосо да, алдыңкы инвестор). GPT тил моделин берди Microsoft азыр кууп жетүүгө шашып жаткан башка ири технологиялык корпорацияларга караганда чоң артыкчылык. Бирок, GPT менен көптөгөн көйгөйлөр бар, алардын көбү азырынча чечилбейт.
Биринчиден, бул абдан көп ресурстарды талап кылган тил модели. Вебге багытталган Microsoft OpenAIдин Copilot же ChatGPT үчүн өтө жогорку операциялык чыгымдарды жаратат Microsoft. Бул GPT гана эмес, бардык негизги тил моделдеринин өзгөчөлүгү. Мындан тышкары, GPT, атаандаштары сыяктуу эле, "галлюцинацияларга" жакын, башкача айтканда, ал жалган же адаштыруучу маалыматты камтыган суроолорго жооп бере алат. Мындай модель канчалык көп маалымат сиңирет, ошончолук окшош мазмунду жаратууга умтулат. Демек, галлюцинациялар жана жалган билдирүүлөр санарип манжадан сорулуп алынган миф эмес. Колдонуучулар көбүнчө чоң тил моделдери ката кетирип, так эмес маалыматтарды берип, болбогон фактылар менен иштээрин белгилешет.
Эки көйгөй тең абдан олуттуу, ошондуктан OpenAI, Microsoft, Meta, Google жана башкалар Large Language Model технологиясын гана эмес, ошондой эле иш жүзүндө алда канча жакшы натыйжаларды бере турган Чакан тил моделин иштеп чыгуунун үстүндө иштеп жатышат.
Санариптик бухгалтердин жардамчысы кванттык физика жөнүндө көп нерсени билиши керек эмес. Бул алда канча кичирээк жана азыраак татаал (демек, арзан) болушу мүмкүн, жана анын максаты үчүн зарыл болгон маалыматтар боюнча гана окутуу менен, теориялык жактан аз галлюцинация керек. Бирок, бул айтканга караганда оңой. GenAI технологиясы дагы эле жапайы IT ишкана болуп саналат. Ал эми иш болуп көрбөгөндөй темп менен жүрүп жатканына карабастан, фундаменталдуу маселелер боюнча иш жүзүндө жылыштарды жасоо дагы эле кыйын. Бирок компания Microsoft жакында эле мындай жылыш жарыялады. Биз кичинекей тил модели жөнүндө айтып жатабыз Microsoft Phi.
Ошондой эле кызыктуу: Тайвань, Кытай жана АКШ технологиялык үстөмдүк үчүн кантип күрөшүп жатышат: улуу чип согушу
Эмне жөнүндө белгилүү Microsoft пелиштиликтер
Биринчиден, эксперимент OpenAI компаниясынын катышуусуз жүргүзүлгөнүн белгилей кетүү керек. Башкача айтканда, бул инженерлердин өнүгүүсү Microsoft.
Моделдер Microsoft Phi - бул ар кандай тесттерде өзгөчө натыйжаларга жетишкен чакан тил моделдеринин (SLMs) сериясы. Биринчи модель, Phi-1, 1,3 миллиард параметрге ээ болгон жана учурдагы SLMлердин арасында Python коддоосунун эң жакшы натыйжаларына жетишкен.
Андан кийин иштеп чыгуучулар тилди түшүнүүгө жана ой жүгүртүүгө басым жасап, Phi-1.5 моделин түзүштү, анын да 1,3 миллиард параметри бар жана беш эсе көп параметрлери бар моделдер менен салыштырууга болот.
Phi-2 - бул 2,7 миллиард параметр модели, ал 13 миллиард параметр менен эң мыкты базалык моделдердин деңгээлинде иш алып барат. Phi-2 башка моделдерден моделди масштабдоо жана маалыматтарды курациялоо боюнча инновациялары менен өзгөчөлөнөт.
Ал Azure AI Studio моделдер каталогунда жеткиликтүү, ал тил моделдери жаатындагы изилдөөлөрдү жана иштеп чыгууларды жеңилдетет. Phi-2 2023-жылы декабрда учурулган. Иштеп чыгуучулар ал Metaдан Mistral же llama 2 сыяктуу иштейт деп ишендиришет. Ал эми Phi-3 мурунку версиясынан да жакшы иштейт.
Бирок, жаңы эле жарыяланган Phi-3 модели сапаты боюнча таптакыр жаңы. Жок дегенде, берилген маалыматтан ушуну айтууга болот Microsoft. Компаниянын маалыматы боюнча, бардык белгилүү эталондордун көрсөткүчтөрүнө ылайык, Phi-3 окшош өлчөмдөгү башка моделдерден, анын ичинде тилдик анализди, программалоо ишин же математикалык иштерди жакшыраак аткарат.
Бул моделдин эң кичинекей версиясы болгон Phi-3-mini бардык кызыкдар тараптар үчүн жеткиликтүү болуп калды. Башкача айтканда, 23-апрелден бери жеткиликтүү. Phi-3-mini өлчөөлөр боюнча 3,8 миллиард параметрлери бар Microsoft, бирдей өлчөмдөгү башка моделдерге караганда эки эсе натыйжалуу. Аны булут сервисинин AI моделдеринин каталогунан тапса болот Microsoft Azure, Hugging Face машина үйрөнүү моделинин платформасы жана Ollama, жергиликтүү компьютерде моделдерди иштетүү үчүн негиз.
Ал ырастагандай Microsoft, Phi-3-mini күчтүү чиптерди талап кылбайт Nvidia. Модель кадимки компьютердик чиптерде иштей алат. Же Интернетке туташпаган телефонго да туура келет.
Азыраак күч, ошондой эле моделдер так эмес болот дегенди билдирет. Phi-3 дарыгерлерге же салык бухгалтерлерине ылайыктуу эмес, бирок жөнөкөй тапшырмаларды аткарууга жардам берет. Мисалы, Интернетте жарнамалоо же жалпылоо сын-пикирлер үчүн.
Кичинекей моделдер азыраак иштетүүнү талап кылгандыктан, алар жеке компаниялар үчүн арзаныраак болот. Башкача айтканда, в Microsoft AI өз ишине тартууну каалаган, бирок аны өтө кымбат деп эсептеген кардарлар көбүрөөк болот. Бирок алардын баасы канча болоору азырынча тактала элек.
Чакан жана орто моделдер качан пайда болоору азырынча белгисиз. Бирок акыркысы күчтүүрөөк жана кымбатыраак болот. Phi-3-кичине 7 миллиард параметрге ээ болот, ал эми Phi-3-орто 14 миллиард параметрге ээ болору буга чейин белгилүү болсо да.
Ошондой эле окуңуз:
- Графен микрочиптери телефондорду тезирээк жана жеңил кылат
- Жөнөкөй сөз менен айтканда, кванттык компьютерлер жөнүндө
Phi-3-mini кантип колдонсо болот?
GPT-4 Turbo күчтүү AI чиптерин талап кылат, алар дагы эле абдан кымбат. Phi-3 кичинекей сүйлөө модели офлайн режиминде, булутсуз, атүгүл уюлдук телефондогу чип менен иштей алат.
Phi-3 - бул акыркы колдонуучулар үчүн продукт эмес, бирок иштеп чыгуучулар өздөрүнүн тиркемелеринде колдонуп, ишке ашыра турган технология - булутка негизделген, башкача айтканда, алыстан жайгашкан, ошондой эле жергиликтүү жана оффлайн режиминде иштегендер. Бул мобилдик телефондор, унаалар жана алардын инфозоок системалары, жада калса IoT сенсорлору сыяктуу түзмөктөр жана алардын компоненттери менен үзгүлтүксүз иштеши күтүлүүдө. Кээ бир сценарийлерде бул технология баа жеткис болушу мүмкүн.
Microsoft фантазиябызды кыйнабашыбыз үчүн конкреттүү мисалды да келтирет. Элестеткиле, дыйкан түшүмдөрүн текшерип, жалбырактарында, сабактарында жана бутактарында оорунун белгилерин көрөт. Телекоммуникациялык мачталардан алыс болгондуктан, ал телефонун алып чыгып, бузулган жерин сүрөткө тартып, аны Phi-3 технологиясын колдонгон тиркемеге салуу керек болот - жана модель фотону тез жана оффлайн режиминде талдап, кеңеш берет. бул оору менен кантип күрөшүү керек.
Ал түшүндүргөндөй Microsoft, GPTтин ийгилигинин ачкычы машыгуу үчүн чоң көлөмдөгү маалыматтарды тартуу болгон. Мындай чоң маалымат топтомдору менен, жогорку сапаттагы маалыматтардын болушу мүмкүн эмес. Ошол эле учурда, Phi моделин окутууда, OpenAI так карама-каршы ыкмасы колдонулган. Моделди маалымат менен толтуруунун ордуна, кошумча жана кылдат үйрөнүүгө көңүл бурулган.
Ордуна чийки Интернет маалыматтарды колдонуу, изилдөөчүлөр Microsoft миллиондогон миниатюралык "наристе" окуяларын жаратып, TinyStories маалымат топтомун түздү. Бул окуялар абдан кичинекей тил моделдерин үйрөтүү үчүн колдонулган. Андан соң изилдөөчүлөр CodeTextbook маалымат топтомун түзүү менен андан ары барышты, анда кылдат тандалып алынган, билим берүү мааниси жана мазмундун сапаты үчүн чыпкаланган жалпыга жеткиликтүү маалыматтар колдонулган. Бул маалыматтар андан кийин бир нече жолу чыпкаланган жана андан ары синтездөө үчүн чоң тил моделине (LLM) кайра берилген.
Мунун баары бир кыйла жөндөмдүү SLMди окутуу үчүн жетиштүү маалыматтардын массивдерин түзүүгө мүмкүндүк берди. Мындан тышкары, Phi-3 моделин иштеп чыгууда тобокелдиктерди башкаруу жана азайтуу боюнча көп деңгээлдүү мамиле колдонулган, анын ичинде баалоо, тестирлөө жана кол менен оңдоолор. Натыйжада, ал ырастагандай Microsoft, Phi-3 моделинин үй-бүлөсүн колдонгон иштеп чыгуучулар коопсуз жана ишенимдүү тиркемелерди куруу үчүн Azure AIде жеткиликтүү куралдар топтомун пайдалана алышат.
Ошондой эле окуңуз: Илимий көз караштан телепортация жана анын келечеги
Microsoft Phi ChatGPT типтеги моделдерди алмаштырабы?
Эч нерсе эмес. Чакан тил моделдери (SLMs), жогорку сапаттагы маалыматтар боюнча үйрөтүлгөндө дагы, алардын чектөөлөрү бар жана терең үйрөнүү үчүн иштелип чыккан эмес. Чоң тилдүү моделдер (LLMs) көлөмү жана эсептөө күчү менен татаал ой жүгүртүүдө SLMлерден ашып түшүшөт. LLMлер, өзгөчө, дары-дармектерди табуу сыяктуу тармактарда пайдалуу жана боло берет, мында илимий эмгектердин чоң жыйнактарын издеп, татаал үлгүлөрдү талдоо керек. Башка жагынан алганда, SLM узак тексттик документтин негизги пункттарын жалпылоо, мазмун түзүү же кардарларды тейлөө чатботторун иштетүү сыяктуу жөнөкөй тапшырмалар үчүн колдонулушу мүмкүн.
Microsoft, деди ал, мурунтан эле гибриддик моделдердин топтомун ички түрдө колдонот, мында LLM жетекчиликти колго алып, SLMге азыраак эсептөө күчүн талап кылган айрым суроолорду башкарат, ал эми башка татаал суроо-талаптарды өзү чечет. Phi булутту колдонбостон, түзмөктөрдө эсептөө үчүн жайгашкан. Бирок, кичинекей тил моделдери менен булуттагы чоң моделдер менен алынуучу интеллект деңгээлинин ортосунда дагы деле ажырым болот. Бул ажырым, LLM үзгүлтүксүз өнүгүшүнүн аркасында, жакын арада жок болуп кетиши күмөн.
Phi-3 азырынча тышкы көз карандысыз тараптар тарабынан текшериле элек. Microsoft кээде өтө жомоктогудай угулат атаандаштарына салыштырмалуу 25 эсе жогору натыйжалуулугун же энергияны натыйжалуулугун, өзгөчө учурларда жөнүндө сөз. Бирок, экинчи жагынан, бул жылдар өтүп кеткенин унутууга болбойт Microsoft Бизди IT инновацияларында айкын лидер экендигинен бир аз ажыратты, балким, биз буга чындап ишенбей жаткандырбыз. Дароо жооп берип, жаратуунун ордуна оффлайн режиминде иштеген AI негизиндеги программаларбы? Бул азыркы революциянын татыктуу кульминациясы болмок. Тилекке каршы, бир негизги көйгөй бар.
Ошондой эле окуңуз: Neuralink Telepathy чипи жөнүндө бардыгы: бул эмне жана ал кантип иштейт
Phi-3 тартып Microsoft англисче гана түшүнөт
Phi-3 ага массалык түрдө ыргытылган петабайттарды жеп алган жок. Моделди кылдат жана кылдат окутуу бир кичинекей көйгөйдү камтыйт. Phi-3 англис тилиндеги маалымат менен машыккан жана башка тил жөнүндө эч кандай түшүнүгү жок. Украин гана эмес, немис, испан, француз же кытай тилдеринде да. Албетте, бул дүйнө жүзү боюнча көпчүлүк колдонуучулар үчүн анын жагымдуулугун азайтат.
Бирок ичинде Microsoft аны енуктуруу жана жакшыртуу боюнча иштер жургузулуп жаткандыгына ишендирди. Украина рыногу ири корпорациялардын кайсынысы болбосун үчүн артыкчылыктуу экендиги менен өзүңүздү алдабаңыз. Ошондуктан украин тилинин колдоосун абдан көп күтүүгө туура келет. Бирок бул факт энтузиасттарды жана прогресстен артта калууну каалагандарды эч качан токтоткон эмес.
Ошондой эле окуңуз: