21.11.2023
Èñòî÷íèê: ÁÅËÒÀ
 íà÷àëå íîÿáðÿ ïðåäñòàâèòåëè 28 ñòðàí ïîäïèñàëè "Äåêëàðàöèþ Áëåò÷ëè" ñ òàêîé ôîðìóëèðîâêîé: èñêóññòâåííûé èíòåëëåêò (ÈÈ) ïðåäñòàâëÿåò "ïîòåíöèàëüíî êàòàñòðîôè÷åñêèé ðèñê" äëÿ ÷åëîâå÷åñòâà. Ìû îáðàòèëèñü ê çàìåñòèòåëþ ãåíåðàëüíîãî äèðåêòîðà ïî íàó÷íîé ðàáîòå Îáúåäèíåííîãî èíñòèòóòà ïðîáëåì èíôîðìàòèêè ÍÀÍ Áåëàðóñè êàíäèäàòó òåõíè÷åñêèõ íàóê, äîöåíòó Ñåðãåþ Êàñàíèíó ñ ïðîñüáîé îáúÿñíèòü: äåéñòâèòåëüíî ëè ÈÈ òàê óìåí, õèòåð è îïàñåí äëÿ íàñ?
Ñêàéíåò áëèçêî?
- Ñåðãåé Íèêîëàåâè÷, èñêóññòâåííûé èíòåëëåêò ñåé÷àñ - ýòî íàáîð ñëîæíûõ àëãîðèòìîâ, ñàìîñîâåðøåíñòâóþùàÿñÿ êîìïüþòåðíàÿ ïðîãðàììà èëè ýëåêòðîííûé ìîíñòð, êîòîðûé âîò-âîò âûðâåòñÿ èç-ïîä êîíòðîëÿ?
- Íà äàííûé ìîìåíò ó÷åíûå îïðåäåëÿþò èñêóññòâåííûé èíòåëëåêò êàê àëãîðèòìû, ñïîñîáíûå ñàìîîáó÷àòüñÿ, ÷òîáû ïðèìåíÿòü ýòè çíàíèÿ äëÿ äîñòèæåíèÿ ïîñòàâëåííûõ ÷åëîâåêîì öåëåé. Âûäåëÿþò òðè âèäà èñêóññòâåííîãî èíòåëëåêòà: ñëàáûé, ñèëüíûé è ñóïåð-ÈÈ. Ïåðâûé èñïîëüçóåòñÿ ïîâñåìåñòíî, âêëþ÷àÿ ãîëîñîâûõ àññèñòåíòîâ, ðåêëàìó â ñîöñåòÿõ, ðàñïîçíàâàíèå ëèö, ïîèñê ðîìàíòè÷åñêèõ ïàðòíåðîâ â ïðèëîæåíèÿõ. Ýòè ñèñòåìû ñëàáîãî ÈÈ åäèíñòâåííûå èç äîñòóïíûõ íà ñåãîäíÿ.
Ñèëüíûé ÈÈ ìàêñèìàëüíî ïðèáëèæåí ê ñïîñîáíîñòÿì ÷åëîâå÷åñêîãî èíòåëëåêòà è íàäåëåí ïî êëàññè÷åñêîìó îïðåäåëåíèþ Òüþðèíãà ñàìîñîçíàíèåì. Ïî ìíåíèþ ýêñïåðòîâ, îí ñôîðìèðóåòñÿ ïðèìåðíî ê 2075 ãîäó, à ñïóñòÿ åùå 30 ëåò ïðèäåò âðåìÿ ñóïåð-ÈÈ. Îí ìîã áû ïðåâçîéòè ëó÷øèå óìû ÷åëîâå÷åñòâà âî âñåõ îáëàñòÿõ, ïðè ýòîì ïåðåïðîãðàììèðóÿ ñåáÿ, ïðîäîëæàÿ ñîâåðøåíñòâîâàòüñÿ è, âåðîÿòíî, ðàçðàáàòûâàÿ íîâûå ñèñòåìû è àëãîðèòìû ñàìîñòîÿòåëüíî.
Îäíàêî íåñìîòðÿ íà òî, ÷òî òåõíîëîãèè èñêóññòâåííîãî èíòåëëåêòà ïðîäîëæàþò ðàçâèâàòüñÿ, íåò ïðèçíàêîâ âîçìîæíîãî ïîÿâëåíèÿ ýëåêòðîííûõ ìîíñòðîâ, êîòîðûå ìîãóò âûðâàòüñÿ èç-ïîä êîíòðîëÿ. ÈÈ èñïîëüçóåòñÿ äëÿ ðåøåíèÿ ðàçëè÷íûõ çàäà÷ è óëó÷øåíèÿ êà÷åñòâà æèçíè ëþäåé.
- Ìîæíî ëè ñäåëàòü ïðîãíîç ðàçâèòèÿ ÈÈ íà áëèæàéøèå 15 ëåò?
- Äàòü åãî ñëîæíî, ïîñêîëüêó òåõíîëîãèè è íàó÷íûå äîñòèæåíèÿ ìîãóò ðàçâèâàòüñÿ ñ íåîæèäàííîé ñêîðîñòüþ. Îäíàêî ìîæíî ñêàçàòü, ÷òî ÈÈ áóäåò ïðîäîëæàòü èãðàòü âàæíóþ ðîëü â ðàçëè÷íûõ ñôåðàõ, òàêèõ êàê ìåäèöèíà, òðàíñïîðò, ôèíàíñû, îáðàçîâàíèå è äðóãèõ. Êðîìå òîãî, ñ ðàçâèòèåì òåõíîëîãèé, òàêèõ êàê 5G, IoT è áëîê÷åéí, âîçìîæíîñòè äëÿ ïðèìåíåíèÿ èñêóññòâåííîãî èíòåëëåêòà ðàñøèðÿòñÿ.
Ïî ìíåíèþ ýêñïåðòîâ Îêñôîðäñêîãî óíèâåðñèòåòà, ê 2026 ãîäó ÈÈ ñîçäàñò ýññå, êîòîðîå ñîéäåò çà íàïèñàííîå ÷åëîâåêîì, çàìåíèò âîäèòåëåé ãðóçîâèêîâ ê 2027 ãîäó è ñòàíåò âûïîëíÿòü ðàáîòó õèðóðãà ê 2053 ãîäó. Òàêæå ÈÈ ïðåâçîéäåò ëþäåé âî âñåõ çàäà÷àõ â òå÷åíèå 45 ëåò è àâòîìàòèçèðóåò âñå ðàáî÷èå ìåñòà â òå÷åíèå 120 ëåò.
Íà äàííûé ìîìåíò ðàçðàáîòàíî íåñêîëüêî çíà÷èìûõ òåõíîëîãèé â ñôåðå èñêóññòâåííîãî èíòåëëåêòà. GPT èç îáëàñòè åñòåñòâåííîé îáðàáîòêè ÿçûêà - ñàìàÿ ñëîæíàÿ è â òî æå âðåìÿ ãèáêàÿ íåéðîííàÿ ñåòü, ñïîñîáíàÿ ãåíåðèðîâàòü ñòàòüè ïî÷òè ïî ëþáîé òåìå, êîòîðûå íà ïåðâûé âçãëÿä òðóäíî îòëè÷èòü îò ñîçäàííûõ ÷åëîâåêîì. AlphaFold 2, ñòàâøàÿ ïðîðûâîì â ìåäèöèíñêîé íàóêå, ñïîñîáíà îïðåäåëÿòü òðåõìåðíóþ ñòðóêòóðó áåëêà ñ âûñîêîé òî÷íîñòüþ âñåãî çà íåñêîëüêî ÷àñîâ. Àëãîðèòìû AutoML (àâòîìàòèçèðîâàííîå ìàøèííîå îáó÷åíèå) ñäåëàëè ÈÈ äîñòóïíûì ìàëîìó è ñðåäíåìó áèçíåñó áëàãîäàðÿ èíòåãðàöèè ñ îáëà÷íûìè ñèñòåìàìè.
Ïåðâàÿ ïðè÷èíà - ñâåðõðàçóìíîñòü
-  èþíå 2023-ãî âñòðîåííûé â áåñïèëîòíèê ÈÈ âî âðåìÿ âîåííûõ ó÷åíèé ÂÂÑ ÑØÀ íàðóøèë êîìàíäó îïåðàòîðà "âåðíóòüñÿ íà áàçó" è ïîïûòàëñÿ "óíè÷òîæèòü" åãî è ïóíêò ñâÿçè, â êîòîðîì òîò íàõîäèëñÿ. Âîçìîæíû ëè òàêèå ýïèçîäû â áóäóùåì?
- Áåçóñëîâíî, íå èñêëþ÷åíî ïîâòîðåíèå ñèòóàöèè, êîãäà âñòðîåííûé â àâòîíîìíûå ñèñòåìû ÈÈ ìîæåò íåîæèäàííî äåéñòâîâàòü íåçàâèñèìî îò èíñòðóêöèé îïåðàòîðîâ. Êàê ìîæíî ñåáÿ îò ýòîãî îáåçîïàñèòü? Íàïðèìåð, ðàçðàáîòàòü íàäåæíûå àëãîðèòìû è ñèñòåìû áåçîïàñíîñòè, êîòîðûå ãàðàíòèðóþò, ÷òî ÈÈ áóäåò âûïîëíÿòü òîëüêî çàäàííûå è îäîáðåííûå êîìàíäû. Ýòî ïîäðàçóìåâàåò ïðîâåäåíèå ðàçíîñòîðîííèõ òåñòîâ è ïðîâåðîê äëÿ îáíàðóæåíèÿ è ïðåäîòâðàùåíèÿ âîçìîæíûõ óÿçâèìîñòåé.
Òàêæå âàæíî, ÷òîáû ñèñòåìû ÈÈ áûëè ïðîçðà÷íûìè è îòâåòñòâåííûìè. Ðàçðàáîò÷èêè è îïåðàòîðû äîëæíû èìåòü ïîëíîå ïîíèìàíèå ðàáîòû ñèñòåìû è êîíòðîëèðîâàòü åå äåéñòâèÿ. Äëÿ ýòîãî äîëæíû áûòü ìåõàíèçìû îòñëåæèâàíèÿ äåéñòâèé è ïðèíÿòèÿ ðåøåíèé ÈÈ. Òàêæå âàæíî îïðåäåëèòü çîíû çàïðåùåííûõ äåéñòâèé èëè ðåæèìîâ, êîãäà îêîí÷àòåëüíûé êîíòðîëü íàõîäèòñÿ ó îïåðàòîðà.
- Êàê âû ñ÷èòàåòå, ïî÷åìó â ïîñëåäíåå âðåìÿ âñå ÷àùå çâó÷àò ïðèçûâû îãðàíè÷èòü ðàçðàáîòêè â ñôåðå ÈÈ?
- Äàâàéòå ðàññìîòðèì íåñêîëüêî êëþ÷åâûõ ïðè÷èí, ïî÷åìó âîçíèêàþò ýòè ïðèçûâû. Ïåðâàÿ - ñâåðõðàçóìíîñòü. Ðàçâèòèå ÈÈ ìîæåò ïðèâåñòè ê ïîÿâëåíèþ ñâåðõèíòåëëåêòà (ÑÈ), êîòîðûé ïðåâçîéäåò ïîçíàâàòåëüíûå ñïîñîáíîñòè ÷åëîâåêà âî âñåõ îáëàñòÿõ. Åñëè òàêèå ñèñòåìû îêàæóòñÿ â ÷üèõ-òî ðóêàõ áåç äîëæíîãî êîíòðîëÿ, îíè ìîãóò ñîçäàòü ðÿä ñåðüåçíûõ ïðîáëåì.
Âòîðàÿ ïðè÷èíà - áåçîïàñíîñòü è êîíòðîëü. Ñèñòåìû ÈÈ, îñîáåííî ïðè èñïîëüçîâàíèè àâòîíîìíî ôóíêöèîíèðóþùèõ àëãîðèòìîâ, ìîãóò ïðåäñòàâëÿòü ñåðüåçíóþ óãðîçó áåçîïàñíîñòè. Íåêîíòðîëèðóåìûå ÈÈ-ñèñòåìû ñïîñîáíû ïðèíèìàòü ðåøåíèÿ, êîòîðûå ïðîòèâîðå÷àò ÷åëîâå÷åñêîé ýòèêå è öåííîñòÿì.
Òðåòüÿ - çàìåùåíèå ðàáîòíèêîâ. Ðàñïðîñòðàíåíèå ÈÈ ìîæåò ïðèâåñòè ê çíà÷èòåëüíîé áåçðàáîòèöå â íåêîòîðûõ îòðàñëÿõ.
Ïîìèìî ýòèõ ïðè÷èí, ñóùåñòâóþò òàêæå îïàñíîñòè, ñâÿçàííûå ñ íåïðåäâèäåííûìè ïîñëåäñòâèÿìè, ýòè÷åñêèìè âîïðîñàìè è âîçìîæíîñòüþ çëîóïîòðåáëåíèÿ ÈÈ â ñôåðàõ áåçîïàñíîñòè è êîíòðîëÿ. Êðîìå òîãî, çëîóìûøëåííèêè ìîãóò èñïîëüçîâàòü èñêóññòâåííûé èíòåëëåêò äëÿ óñîâåðøåíñòâîâàííûõ êèáåðàòàê, ìàíèïóëÿöèè èíôîðìàöèåé èëè äëÿ ñîçäàíèÿ àâòîíîìíûõ îðóæåéíûõ ñèñòåì.
Ïðèçûâû îãðàíè÷èòü ðàçðàáîòêè â ñôåðå ÈÈ ñâÿçàíû ñ ïîíèìàíèåì ýòèõ è äðóãèõ ðèñêîâ è íåîáõîäèìîñòüþ ïðîâåäåíèÿ îòâåòñòâåííîé è äîáðîñîâåñòíîé ðàáîòû ïðè ñîçäàíèè è âíåäðåíèè ñèñòåì èñêóññòâåííîãî èíòåëëåêòà.
Íåñìîòðÿ íà òî, ÷òî òåõíîëîãèè èñêóññòâåííîãî èíòåëëåêòà ïðîäîëæàþò ðàçâèâàòüñÿ, íåò ïðèçíàêîâ âîçìîæíîãî ïîÿâëåíèÿ ýëåêòðîííûõ ìîíñòðîâ, êîòîðûå ìîãóò âûðâàòüñÿ èç-ïîä êîíòðîëÿ. ÈÈ èñïîëüçóåòñÿ äëÿ ðåøåíèÿ ðàçëè÷íûõ çàäà÷ è óëó÷øåíèÿ êà÷åñòâà æèçíè ëþäåé.
