![«Կասպերսկի»-ն պարզել է, թե կիբեռհանցագործներն ինչ փորձեր են անում արհեստական բանականության հետ](https://geek.am/pub/uploads/2024/02/AI-cat.jpg)
«Կասպերսկի»-ն պարզել է, թե կիբեռհանցագործներն ինչ փորձեր են անում արհեստական բանականության հետ
Kaspersky Digital Footprint Intelligence թիմը ներկայացրել է «Նորարարություններ ստվերում. չարագործներն ինչ փորձեր են անում ԱԲ-ի հետ» հաշվետվությունը, որում մասնագետները վերլուծել են դարկնետի հաղորդագրությունները չարագործների կողմից ChatGPT-ի և մեծ լեզվական մոդելների հիման վրա այլ նմանատիպ լուծումների օգտագործման թեմայով: «Կասպերսկի» ընկերությունը հայտնում է, որ ընդհանուր առմամբ 2023-ին ստվերային ֆորումներում և մասնագիտացված Telegram ալիքներում հայտնաբերվել է 2890 գրառում՝ նեյրոցանցերի հիման վրա չաթ-բոտերի քննարկմամբ: Գագաթնակետը գրանցվել է ապրիլին. այդ ամիս փորձագետները գրանցել են 509 հաղորդագրություն: Փորձագետները բազմաթիվ քննարկումները բաժանել են մի քանի ուղղությունների։
Ջեյլբրեյքեր։ Որպեսզի լեզվական մոդելը կարողանա տալ անօրինական գործունեության հետ կապված պատասխաններ, չարագործներն օգտագործում են հատուկ հրամանների լրակազմեր: Նրանք կարողանում են բացել ChatGPT-ի և նմանատիպ ծառայությունների լրացուցիչ ֆունկցիոնալությունը: Նման լրակազմերը կոչվում են ջեյլբրեյքեր: 2023-ին «Կասպերսկի» ընկերության փորձագետները նման հրամանների տարածման և վաճառքի 249 առաջարկ են հայտնաբերել։ Ընդ որում, հարկ է նշել, որ ջեյլբրեյքերը կարող են օգտագործվել նաև լեզվական մոդելների հիման վրա ծառայությունների աշխատանքի լեգիտիմ բարելավման համար։
Վնասաբեր ԾԱ։ Ստվերային ֆորումների մասնակիցները ակտիվորեն փոխանակվել են վնասաբեր ծրագրերի կատարելագործման և ընդհանրապես կիբեռհարձակումների արդյունավետության բարձրացման համար լեզվական մոդելների օգտագործման տարբերակներով։ Օրինակ՝ փորձագետները հայտնաբերել են հաղորդագրություն, որտեղ խոսվում էր վնասաբեր ծրագրերի օպերատորների ԾԱ-ի մասին, որը նեյրոցանցեր էր օգտագործում օպերատորի անվտանգությունն ապահովելու և օգտագործվող թաքցնող դոմեններն ավտոմատ կերպով փոփոխելու համար: Մեկ այլ քննարկման շրջանակներում գրառումների հեղինակները ChatGPT-ն առաջարկել են պոլիմորֆ վնասաբեր կոդ գեներացնելու համար, որը հայտնաբերելը և վերլուծելը չափազանց դժվար է:
Open Source և պենթեստի (ներթափանցման թեստ) ծրագրեր։ Մեծ լեզվական մոդելների հիման վրա լուծումները ԾԱ մշակողների կողմից ստեղծվում են բաց սկզբնական կոդով, ներառյալ՝ խոսքը կարող է լինել տեղեկատվական անվտանգության մասնագետների համար նախատեսված ծրագրերի մասին։ Սակայն չարագործները նույնպես ուշադրություն են դարձնում նման նախագծերին։ Օրինակ՝ համացանցում ազատորեն հասանելի է գեներատիվ մոդելի վրա հիմնված բաց սկզբնական կոդով հատուկ ծրագիր, որը նախատեսված է կոդի օբֆուսկացման (խճճելու) համար։ Օբֆուսկացիան թույլ է տալիս խուսափել մոնիտորինգի համակարգերի և պաշտպանական լուծումների հայտնաբերումից: Նման ծրագրեր կարող են օգտագործել ինչպես պենթեստերները, այնպես էլ չարագործները: «Կասպերսկի»-ի մասնագետները դարկնետում հայտնաբերել են մի գրառում, որտեղ հեղինակները տրամադրում են այդ ծրագիրը և պատմում, թե ինչպես կարելի է այն օգտագործել վնասաբեր նպատակներով:
ChatGPT-ի «չար» նմանակները: Խելացի չաթ-բոտերի ժողովրդականության ֆոնին մեծ հետաքրքրություն են առաջացրել նաև այլ նախագծեր՝ WormGPT-ն, XXXGPT-ն, FraudGPT-ն: Սրանք լեզվական մոդելներ են, որոնք դիրքավորվում են որպես ChatGPT-ի այլընտրանք՝ լրացուցիչ ֆունկցիոնալությամբ և հանված սահմանափակումներով: Թեև լուծումների մեծ մասը կարող է իրավաչափ օգտագործվել, նաև չարագործները կարող են դիմել դրանց, օրինակ՝ վնասաբեր ԾԱ գրելու համար։ Այնուամենայնիվ, նման առաջարկների նկատմամբ մեծ ուշադրությունը միշտ չէ, որ ձեռնտու է դրանց ստեղծողներին: Այսպես, WormGPT-ն փակվել է 2023-ի օգոստոսին՝ զանգվածային մտավախությունների պատճառով, որ այն կարող է սպառնալիք ներկայացնել։ Ի լրումն, «Կասպերսկի»-ի մասնագետների կողմից հայտնաբերված շատ կայքեր և հայտարարություններ, որտեղ առաջարկվում էր ձեռք բերել հասանելիություն WormGPT-ին, ըստ էության, սկամ էին: Հետաքրքական է, որ նման առաջարկների մեծ քանակությունը նախագծի հեղինակներին ստիպել է դեռ փակվելուց առաջ զգուշացնել խաբեության հնարավորության մասին։
«Մտավախություն կա, որ մեծ լեզվական մոդելների զարգացումը թույլ է տալիս չարագործներին պարզեցնել իրենց գործունեությունը և միևնույն ժամանակ նվազեցնում է ոլորտ նրանց մուտքի շեմը: Սակայն, այս պահին մենք չենք տեսնում իրական միջադեպեր, որոնց շրջանակներում օգտագործվել են նման լուծումներ։ Այնուամենայնիվ, տեխնոլոգիաները զարգանում են սրընթաց տեմպերով, և շատ հավանական է, որ շուտով լեզվական մոդելների հնարավորությունները թույլ կտան իրականացնել բարդ գրոհներ, ուստի կարևոր է ուշադիր հետևել այս ոլորտին»,- մեկնաբանում է Kaspersky Digital Footprint Intelligence-ի վերլուծաբան Ալիսա Կուլիշենկոն:
-
11:18 05/09/24Հայկ Եսայան. Հայաստանը Cloud լուծումներ առաջարկելու լուրջ հեռանկարներ ունի
-
14:11 23/08/24Շուրջ 100 000 տնային տնտեսություն օգտվում է Team Telecom Armenia-ի ինտերնետից․ 2-րդ եռամսյակի ցուցանիշներ
-
16:53 15/08/24Team Telecom Armenia-ն դարձել է Գիտության շաբաթվա գլխավոր գործընկերը
-
12:27 31/07/24Թումո ճամբարն ու Team-ը տեխնոլոգիական ամառային փորձառություն նվիրեցին արցախցի պատանիներին
-
15:03 06/12/23Հայաստանից ամենաշատ ներբեռնվող հավելվածները. 06/12/2023
-
14:28 05/09/23Հայաստանից ամենաշատ ներբեռնվող հավելվածները. 04/09/2023
-
19:31 22/09/22Level Up միայն ուսանողների համար․ Ucom-ն առաջարկում է ինտերնետի x2 և x3 ծավալ
-
13:08 29/06/22Ucom. «Ղարաբաղ Տելեկոմի» ցանցում ռոումինգի սակագները վերականգնվում են
-
14:19 28/06/22Վիվա-ՄՏՍ. Փոփոխություններ «Ղարաբաղ Տելեկոմ» ցանցում ռոումինգ ծառայության պայմաններում
-
19:29 12/10/21Վիվա-ՄՏՍ. «iPhone 13» և «iPhone 13 Pro»-ի վաճառքին մնացել են հաշված օրեր
-
18:58 28/09/20Շարժական կապի օպերատորների համատեղ հայտարարությունը
-
18:57 13/08/20Վիվա-ՄՏՍ. «Լիցք+». այժմ արդեն մինչև 2000 Դ չափով
-
12:15 11/08/192019թ. առաջին կիսամյակում ՀՀ խոշոր հեռահաղորդակցական ընկերությունների մուծած հարկերի ծավալը նվազել է մոտ 23.07%-ով
-
16:27 03/05/19Ռոստելեկոմ. նոր առաջարկ՝ երեք ամիս կես գնով
-
13:56 04/12/18Ռոստելեկոմ․ Հայտնի են STARTUP BOOST WEEKEND Vol3 նախագծի հաղթողները
-
16:07 27/09/18Ռոստելեկոմը ռեբրենդինգ է իրականացրել
-
12:11 14/02/24Picsart-ն ամենաորոնվածն է App Store-ում
-
14:59 02/06/23TalkAround․ Գեներատիվ AI-ը գործնականում. մարտահրավերներ և հնարավորություններ
-
21:00 26/03/23Հայկական Picsart-ը՝ Forbes-ի 14 ուշագրավ ու խելահեղ արհեստական բանականության գործիքների շարքում
-
16:48 03/02/23Հայկական Picsart-ն աշխարհի 20 լավագույն հավելվածների շարքում է