, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Машина үйрөнүү алгоритмдери азыр абдан популярдуу, анткени алар мурдатан бар болгон чоң маалымат топтомдорун үйрөткөндөн кийин ар кандай "оригиналдуу" мазмунду түзүү үчүн колдонулат. Бирок, жасалма интеллект (AI) генерациялоочу код келечекте программалык камсыздоонун коопсуздугу үчүн чыныгы көйгөй жаратышы мүмкүн.
GitHub Copilot сыяктуу AI системалары табигый тилдеги текст маалыматтарынын жана мурдатан бар болгон контексттин негизинде "жаңы" коддун бүт бөлүктөрүн түзүү аркылуу программисттердин жашоосун жеңилдетет деп убада берет. Бирок кодду түзүү алгоритмдери кооптуу факторду да киргизиши мүмкүн, анткени жакында бир нече иштеп чыгуучулар катышкан жаңы изилдөө табылган.
Атап айтканда Codexке, OpenAI тарабынан иштелип чыккан жасалма интеллект платформасына карасак, ал ошондой эле жогоруда айтылган GitHub Copilotтун артындагы код кыймылдаткычы болуп саналат, изилдөөгө 47 түрдүү иштеп чыгуучулар катышкан. Студенттерден тажрыйбалуу адистерге чейин алар Python, JavaScript, C жана башка жогорку деңгээлдеги программалоо тилдеринде коопсуздукка байланыштуу маселелерди чечүү үчүн Codexти колдонууга чакырышты.
Изилдөөчүлөр белгилегендей, программисттер Codexтин AI мүмкүнчүлүгүнө ээ болгондо, натыйжадагы код башкаруу тобу тарабынан иштелип чыккан "кол" чечимдерине салыштырмалуу туура эмес же кооптуураак болушу мүмкүн. Кошумчалай кетсек, AI менен иштеген программисттер жогоруда аталган контролдук топко салыштырмалуу алардын корголбогон коду коопсуз деп айтышкан.
Стэнфорд университетинин аспиранты жана изилдөөнүн башкы авторлошу Але Перри "код түзүүчү системалар учурда адам иштеп чыгуучулардын ордун баса албайт" деди. Анын айтымында, иштеп чыгуучулар өздөрүнүн компетенциясынан тышкаркы тапшырмаларды аткаруу үчүн же белгилүү бир жөндөмгө ээ болгон программалоо процессин тездетүү үчүн жасалма интеллект куралдарын колдоно алышат. Изилдөөнүн авторунун айтымында, алар экөөнө тең тынчсызданып, түзүлгөн кодду дайыма текшерип турушу керек.
Стэнфорд университетинин аспиранты жана изилдөөнүн экинчи авторлошу Мега Сриваставанын айтымында, Codex пайдасыз эмес: "дудук" AIнын кемчиликтерине карабастан, кодду түзүү системалары аз тобокелдикти аткарган тапшырмалар үчүн колдонулганда пайдалуу болушу мүмкүн. Мындан тышкары, изилдөөгө катышкан программисттер аялуу же кооптуу кодду аныктоого жардам бере турган коопсуздук маселелеринде көп тажрыйбага ээ эмес, деди Сривастава.
Коддоо боюнча сунуштарды жакшыртуу үчүн AI алгоритмдерин өзгөртүүгө болот жана өз тутумдарын иштеп чыгуучу компаниялар өздөрүнүн коопсуздук практикасына ылайыктуураак кодду чыгарган модель менен жакшыраак чечимдерди ала алышат. Изилдөөнүн авторлорунун айтымында, кодду түзүү технологиясы "кызыктуу" өнүгүү жана аны колдонууга көп адамдар ынтызар. Болгону, AIнын кемчиликтерин жоюу үчүн туура чечимдерди табууда дагы көп иштер аткарыла тургандыгы.
Сиз Украинага орус баскынчыларына каршы күрөшүүгө жардам бере аласыз. Мунун эң жакшы жолу - Украинанын Куралдуу күчтөрүнө каражат берүү Savelife же расмий баракчасы аркылуу NBU.
Ошондой эле кызыктуу: