攻击者手中的人工智能工具：威胁分类和对策

ИНСТРУМЕНТЫИИВРУКАХЗЛОУМЫШЛЕННИКОВ—

КЛАССИФИКАЦИЯУГРОЗ

ИСПОСОБЫПРОТИВОДЕЙСТВИЯ

СОДЕРЖАНИЕ

ВВЕДЕНИЕ

6

ОБЩИЕВЫВОДЫ

10

КЛЮЧЕВЫЕВЫВОДЫПОКЛАСТЕРАМ

14

1ОБНАРУЖЕНИЕДИПФЕЙКОВ

16

ma2ОПРЕДЕЛЕНИЕКОНТЕКСТАПРОИСХОДЯЩЕГОНАВИДЕО

20

3АВТОМАТИЗАЦИЯМОНИТОРИНГАИМОДЕРАЦИИКОНТЕНТА

24

4РАСПОЗНАВАНИЕЛИЦ

30

mm5ИЗВЛЕЧЕНИЕСМЫСЛАИЗТЕКСТА

36

6ПОДДЕРЖКАФАКТЧЕКИНГА

40

7РАСПОЗНАВАНИЕСИМВОЛИКИ

46

8ИЗВЛЕЧЕНИЕИАНАЛИЗМЕТАДАННЫХ

50

9РАСПОЗНАВАНИЕЭМОЦИЙ

54

10ПОДДЕРЖКАРЕШЕНИЙПРИИНФОРМАЦИОННЫХАТАКАХ

60

11ГЕНЕРАЦИЯКОНТЕНТА

66

12РЕКОМЕНДАЦИЯКОНТЕНТА

72

СПИСОКЛИТЕРАТУРЫ

78

КОЛЛЕКТИВАВТОРОВ82

Извсегомногообразияфакторов,которыепостоянноменяюточертаниянашегобудущего,инновационныетехнологиизаслуживаютотдельноговнимания,засчётвысокойскоростивнедрениявсферыжизничеловека,отпроизводствадокоммуникации.Каждыйвиток

развитияцифровыхтехнологийвсегдасопряжен

сновымивызовами.Иключевуюрольвихуспешномпреодолениииграетвремяреакции—ужесегодня

мыобязаныискатьвозможностирешениярисковзавтрашнегодня.

Намжизненнонеобходиманализновейшихрешенийиметодовработы,введениеихвнашупрактикудляобеспечениястабильногоразвитиянашейстраны.

Соблюдаяинтересыграждан,государстваибизнеса,защищаяихправаиихсамихотвозможныхцифровыхугроз,мывсегдабудемсовершенствоватьмеханизмынашейдеятельности.Иглавнымдвигателемнашегосовершенствованиявсегдабудетинформация.

НЕСТЕРЕНКО

РУСЛАНВАСИЛЬЕВИЧ

Вриогенерального

директора,

ФГУП«ГРЧЦ»

Важнопонимать,чтоиспользованиеалгоритмов

искусственногоинтеллектаможетслужить

какщитом,такимечом.Соднойстороны,

мывидимИИкакнадёжногопомощникавнутринаучно-техническихпроцессов.Скоростьработы

икруглосуточнаядоступностьалгоритмовзначительнооблегчаетработуучёнымиисследователям.Сдругой,

мынеможемзакрыватьглазанадеструктивные

сценариииспользованияИИзлоумышленниками,отмошенническихсхемдосоциальногоманипули-рованиячерезинформационноевоздействие.

Научныйпрогресснеостановить,иуИИесть

внушительныйпотенциалдлярешениямногихпроблем,существующихсейчасвсоциальном,экономическомитехнологическомсекторах,

однакомывсегдадолжныпомнитьовопросахбезопасностиегоиспользованияинашей

защищённости.

РЫЖОВА

ЕВГЕНИЯЮРЬЕВНА

Советникгенеральногодиректорапонаучно-

техническомуразвитию,ФГУП«ГРЧЦ»

2—3

Возможноститехнологийискусственногоинтеллектанеуклоннорастут,иужесейчассуществуютобласти

изадачи,вкоторыхискусственныйинтеллектзаметнообогналчеловека.Подходы,которыемыиспользуем

дляпринятиярешений,потребленияипроизводстваконтента,дажеобщениясдругимилюдьми—никогданебудутпрежними.Болеетого,онибудутменятьсявсёсильнеепомереразвитияивнедренияискусственногоинтеллекта.Нашейстранепридётсяприложить

значительныеусилия,чтобынеотстатьотстран-лидероввобластиразвитияИИ.Приэтомпрактика

показывает,чтоотечественныеразработчикиспособны

создаватьрешениямировогоуровня.Кооперациямежду

государством,научно-исследовательскимиучреждениями,гражданскимобществомибизнесомвцеляхисследования,

освоенияимониторингаразвитиятехнологий

искусственногоинтеллекта—важнаязадача.Еслинезаниматьсяеёрешением,мырискуемоднаждыпроснутьсявмире,полномнеразрешимыхпроблем,гдевсенашиподходысталиархаичныиперестали

работать.Иадаптироватьсяктакомумирубудетужепоздно.

ГЛАЗКОВ

БОРИСМИХАЙЛОВИЧ

Вице-президент

постратегическиминициативам,

ПАО«Ростелеком»

Искусственныйинтеллект—одинизнаиболеезначимыхвызововдляобществасегодня:

онпоменяетпривычныебизнес-модели,породитиуничтожитцелыеиндустрии,сократитстарыеисоздастпринципиальноновыерабочиеместа.Несмотрянаколоссальныйпотенциал

дляобщественногоблага,искусственный

интеллектбудетиспользоватьсязлоумышленниками:дляобмана,манипуляцийивведениявзаблуждение.

Наконец,подрывнойпотенциалискусственного

интеллектаставитнаспередвопросамиивыборами,скоторымимыникогданесталкивалисьзавсю

историючеловечества—технологическими,этическими,социальными.Именнопоэтомукрайневажнозадумыватьсяозавтрашнихрискахужесегодня.

ЮСУФОВ

РУСЛАНГЕННАДЬЕВИЧ

Управляющий

партнер,MINDSMITH

4—5

ВВЕДЕНИЕ

Искусственныйинтеллект(илиИИ)какявлениепозволяетнампереосмыслитьпроцессыанализа

ииспользованияинформации,прогнозированияипринятиярешений,проникнувпрактически

вовсесферынашейдеятельности.Хранение

иобработкаогромногомассиваданныхсвысокойскоростью,сложныеалгоритмыобработки

информациилюбогорода,отвизуальногоизображения,донеструктурированногоцифровогопотока,принятиерешений

безвмешательствачеловека—этонаша

действительность.Впоследнеедесятилетие

скоростьразвитияИИсталаэкспоненциальной:

то,чтовсередине2010-хказалосьрывкомвразработкенейросетей,насамомделе

былоначаломпродолжительногоразвитиятехнологии,котороенесбавляетскорости.

НоважнейшиммаркеромвниманиякИИявляетсято,чтодругиетехнологииначинаютменятьсвойвекторразвитияподнего:происходитразработкаспециализированныхчипов,постройкаотдельныхцентровобработкиданных,автоматизация

методовсборкидатасетов—производство

инструментовпосозданиюИИсталосвоим

собственнымрынком.ОбывателиужеиспользуютИИ,встроенныйвпоисковыесистемыили

мобильныеприложения,незадаваясьвопросами.Этоговоритовысокойстепеникоммерциали-зациииотом,чтовскоретехнологиябудет

доступнаширочайшемуспектрулюдей,авходной

порогдля,например,обучениянейросетиилиеёмодификациизначительноснизится.

Подрывнойпотенциалтехнологиистанет

доступенвполноймерекудаболееширокомуспектрулюдей,инесомненносредиэтого

спектрабудутизлоумышленники,которые

раньшенебылиспособныграмотноприменитьИИврамкахсвоихцелейисредств.

Угосударстванетдругоговыбора,кромекак

изучатьэтутехнологию,обучатьсвоихгражданиготовитьсякгрядущимизменениям

винформационныхвойнах,киберпреступле-ниях,практикахнедобросовестного

использованияперсональныхданныхи

другихвекторахрисков,которыезначительно

изменятсяиобострятсяпомереразвитиятехнологии.Остановитьилизамедлить

эторазвитиеневозможно.

НеминуемоеразвитиетехнологийсоздаетнеобходимостьпрозрачногопониманиявозможностейИИкакдляпредставителейбизнеса,такидлягосударства,ведь

использованиеИИнапрямуюзатрагивает

вопросыобщечеловеческихценностей,прав

исвободграждан,национальнойбезопасности.

Сложностикпониманиювектораразвития

технологиидляобычногообывателядобавляетчастичная(иногдаполная)секретность

оразработкахинструментов,скоторымичеловеквзаимодействуетужесегодня,

попутноподливаямаславогоньлюбителямконспирологическихтеорий.Однакокак

насамомделеобстоятделасИИсегодня?

ЦЕЛЬЭТОГОИССЛЕДОВАНИЯСОСТОИТВТОМ,ЧТОБЫПРЕДСТАВИТЬРЕАЛИСТИЧНЫЙОБЗОРИНАГЛЯДНОКЛАССИФИЦИРОВАТЬ

ПЕРЕДОВЫЕРЕШЕНИЯСИСПОЛЬЗОВАНИЕМИИ,ЗАДЕЙСТВОВАННЫЕ

ВМОНИТОРИНГЕИНТЕРНЕТАИОБЕСПЕЧЕНИИБЕЗОПАСНОСТИЕГОПОЛЬЗОВАТЕЛЕЙ.

6—7

КЛАССИФИКАЦИЯ

МЫСФОРМУЛИРОВАЛИДВАКЛЮЧЕВЫХПАРАМЕТРАДЛЯКЛАССИФИКАЦИИПРИКЛАДНЫХРЕШЕНИЙ,

ПРОАНАЛИЗИРОВАВНАУЧНУЮЛИТЕРАТУРУИТЕМАТИЧЕСКИЕОТЧЕТЫКОНСАЛТИНГОВЫХКОМПАНИЙ.

Первымпараметромсталапринадлежностьрешениякодномуиз4сформированных

направленийИИ(названныхнамивисследованиисубтехнологиями).Каждаяизсубтехнологий

представляетсобойширокуюпредметную

область,характеризующуюсяформатом

информации,скоторымработаеттоилииноерешение:компьютерноезрение,обработка

естественногоязыка,распознаваниеисинтез

речи,системыпрогнозированияиподдержки

принятиярешений.Следуетотметить,чтокромеразницыввектореприменения,субтехнологиизначительноотличаютсяистехническойстороны.

Вторымпараметромсталастепеньзрелости,

отражающаяразныестадииразвитиярешений.Даннаяградациябыласформировананаосновеотчётовконсалтинговыхкомпанийиобзоровнаучнойлитературы,задачейкоторыхбыло

измерениестепениразвитиятойилиинойтехнологии.Быловыделенотриуровня

зрелостирешения:«концепция»,«прототип»и«внедрено».

Решениянаэтапе«концепция»представляют

собойэкспериментальныесистемы,концепции

системигипотетическивозможныесистемы

нараннихстадияхразработки,непрошедшиепилотныхстадийилитестированиевреальныхусловияхилиусловиях,близкихкреальным.

Длядоведениятакихрешенийдоготовности

квнедрениюпотребуетсязначительныйобъёмработ.

Решениянаэтапе«прототип»включают

всебяэкспериментальныесистемы,которыеуспешнопрошлиилипроходятпервыеэтапы

тестированиявреальныхусловияхили

условиях,близкихкреальным,имиможнопользоватьсяивнедрятьихвпроцессы

послепредварительноймодификации.

Решениянаэтапе«внедрено»являются

решениями,которыеужеработаютвреальныхусловиях,используютсячастнымикомпаниями,

НКО,государственнымиорганизациями,

обывателямииинымизаинтересованнымигруппами.Такиерешенияужезанимают

своюнишунарынкеиготовыквнедрению.

Следующимшагоммыраспределилирешенияна12функциональныхгрупп(названныхнамивисследованиикластерами),соответствующихтехнологическиминтересампрофильных

организацийпомониторингуиобеспечениюбезопасностиинтернета.Каждыйкластер

объединяетрешения,предназначенныедлявыполнениязадачвконкретномнаправлении.Такбыливыделеныкластеры:

1Обнаружениедипфейков2Определениеконтекста

происходящегонавидео

3Автоматизациямониторингаимодерацииконтента

4Распознаваниелиц

5Извлечениесмыслаизтекста

6Поддержкафактчекинга7Распознаваниесимволики

8Извлечениеианализметаданных9Распознаваниеэмоций

10Поддержкарешений

приинформационныхатаках

11Генерацияконтента

12Рекомендацияконтента

Кластерыбылисформированынаоснове

предварительногоанализарелевантнойнаучнойлитературы,входеобсуждениясэкспертами.

Следуетотметить,чтовходепоискарешенийбылиспользованряданалитических

инструментов,вчастностисистемаTeqviser.Базаданныхсистемысодержитсвыше

60миллионовнаучныхпубликаций,неменее

30миллионовпатентовиоколо600тысячпримеровинвестиционныхпроектов.

Однимизрезультатовисследованиясталаобзорнаякартатехнологий,котораябудетпредставленадальше.КартадемонстрируетнынешнийландшафтразработкирешенийнаосновеИИвразрезекластеров,субтехно-логийистепенизрелостиэтихрешений.

8—9

ОБЩИЕ

ВЫВОДЫ

НЕСМОТРЯНАЗНАЧИТЕЛЬНЫЕРАЗЛИЧИЯВТЕХНИЧЕСКИХОСОБЕННОСТЯХРАБОТЫРЕШЕНИЙВКАЖДОМКЛАСТЕРЕ,

СУЩЕСТВУЕТРЯДУНИВЕРСАЛЬНЫХПОЛОЖЕНИЙ,КОТОРЫЕБЫЛИПОДТВЕРЖДЕНЫИЛИОБНАРУЖЕНЫВХОДЕИССЛЕДОВАНИЯ:

1ВРоссииестьэкспертизадлясоздания

отечественныхдатасетовимоделей,

нонехватаетвычислительныхмощностей,инфраструктурыикооперациимежду

ключевымистейкхолдерами.Ситуация

осложняетсятем,чтовРоссиинаданныймоментнедостаточноразвитопроизводствовысококачественного,мощноговычисли-тельногооборудования.Несмотря

наэто,вРоссииестькрайнекачественные

решения,особенноэтокасаетсяраспозна-ваниялициработысинформационными

атаками.

2КитайиСШАлидируютсбольшим

отрывомвсущественнойчастикластеров.Несмотрянато,чтоэтистраныимеют

значительныеразличиякаквнаправленииисследованийиразработок,так

ивтактическомподходе,вобеихстранахразвитосотрудничествогосударственныхорганизацийскоммерческими.

3Из-заавтоматизацииинформационныхвойниразвитиягенеративных

моделейбудеткрайнепроблематичнообеспечитькогнитивнуюбезопасностьнаселениябезвнедренияискусственного

интеллекта.

4Наличиеотечественныхмоделей

иихвнедрение,атакжеиспользование

отечественныхдатасетов—вопрос

национальнойбезопасности,так

какзарубежныеакторыспособны

экспортироватьискусственныйинтеллект,которыйбудетимподконтроленпосле

передачиклиенту.

5Разработкапроцедуртестированияиоценкимоделей—важнаяинфра-

структурнаязадача,котораяпозволитгосударствудержатьрукунапульсе

развитиятехнологий,отслеживатьперспективныхразработчиков

ипроекты.

6Существеннаядолямоделейпредставляетсобой«чёрныйящик»—из-заогромногообъёмапараметровкрайнесложно

определить,какименноэтимодели

принимаютсвоирешения.Этопредставляетугрозувслучаевнедрениязарубежных

моделей,использованиязарубежными

датасетамииразработкинекачественныхмоделей.

7Регуляторикавбольшинствестран

неуспеваетзаскоростьюразвития

технологий.Этоотноситсякбольшой

долекластеров,начинаясгенеративныхалгоритмов,регуляциякоторыхвсё

ещёнедостигладолжнойдетализации,изаканчиваясамимидатасетами,подходкнаполнениюииспользованиюкоторыхвомногихстранахостаетсянасовести

самихразработчиков.

8Искусственныйинтеллектзначительно

обогналчеловекавобъёмеискорости

обработкиданных,способности

распознаватьмалозаметныепаттерны

исравниватьобразцысбольшими

объёмамиинформации.Наданный

моментискусственныйинтеллектвсёещёдалекотреальногопониманияконтекста

икультурныхнюансов,чемнередкопользуютсязлоумышленники.

10—11

1

ОБНАРУЖЕНИЕДИПФЕЙКОВ

18

Обнаружениедипфейковпобиосигналам,Intel

45

Обнаружениедипфейков,Sensity

47

DeepwareScanner,Zemana

49

Распознаваниедипфейков,Сбербанк

59

Анализбликоввглазах,УниверситетБуффало

60

DISSIMILAR,ОткрытыйуниверситетКаталонии

61

Defudger

72

Обнаружениередактированияпосжатымкадрам

75

Выявлениедипфейковпоцветулица,Сбербанк

КАРТА

ТЕХНОЛОГИЙ

И

Ч

Е

Р

З

Е

Т

Н

И

С

И

Е

И

Н

А

В

А

Н

З

О

П

С

А

Р

143

189

195

193

191

190

187

167

186

185

166

165

164

173

168

172

169

171

170

Й

И

Н

Е

Ш

Е

Р

Я

И

Т

Я

Н

И

Р

П

И

К

Ж

Р

Е

Д

Д

О

П

И

Я

И

Н

А

В

О

Р

И

З

О

Н

Г

О

Р

П

Ы

М

Е

Т

С

И

С

144

197

148

1

45

47

66

Е

И

Н

Е

Р

З

Е

О

Н

Р

Е

Т

Ю

Ь

П

М

О

К

67

68

6569

198

196

64

43

1419

1610

24

2

17

4

5

9

11

12

13

40

51

57

15

21

25

26

58

2274

23

104

105

94

97

96

95

99

100

63

62

6

82

39

117

116

112

103

102

130

146

141

194

129

А

К

Ы

З

Я

О

Г

О

Н

Н

Е

В

Т

С

Е

Т

С

Е

А

К

Т

О

Б

А

Р

Б

О

РАСПОЗНАВАНИЕЭМОЦИЙ

ОПРЕДЕЛЕНИЕКОНТЕКСТА

ПРОИСХОДЯЩЕГОНАВИДЕО

ОБНАРУЖЕНИЕДИПФЕЙКОВ

ГЕНЕРАЦИЯКОНТЕНТА

РАСПОЗНАВАНИЕСИМВОЛИКИ

АВТОМАТИЗАЦИЯМОНИТОРИНГА

ИМОДЕРАЦИИКОНТЕНТА

ИЗВЛЕЧЕНИЕ

СМЫСЛАИЗТЕКСТА

РАСПОЗНАВАНИЕЛИЦ

ИЗВЛЕЧЕНИЕИАНАЛИЗМЕТАДАННЫХ

ПОДДЕРЖКА

ФАКТЧЕКИНГА

ПОДДЕРЖКА

РЕШЕНИЙПРИ

ИНФОРМАЦИОННЫХАТАКАХ

РЕКОМЕНДАЦИЯКОНТЕНТА

3

АВТОМАТИЗАЦИЯ

МОНИТОРИНГАИМОДЕРАЦИИКОНТЕНТА

17

PicPurify,SASArsNovaSystems

22

Модерацияпотоковоговидео,KyndrylиIBM

85

Автоматическаямодерация,VK

88

Модерациякомментариев,Unitary

90

AutoMod,Discord

91

AzureContentModerator,Microsoft

92

Модерацияконтента,Hive

93

ConflictAlerts,Meta*

94

Автоматическаямодерация,Sentropy

95

СамомодерацияИИ,УниверситетКалифорнии

96

«AreYouSure?»,MatchGroup

97

Автоматическаямодерация,ContentScore

99

Модерацияконтента,Checkstep

100

Модерацияинфополяпользователя,Bodyguard

102

Модерацияискаженноготекста,VerizonMedia

103

Модерациятекстовыхсообщений,МТСиСколтех

112

AudioIntelligence,AssemblyAI

116

CommunitySIFT,TwoHatSecurity

117

LiveDune

130

KOLD

4

РАСПОЗНАВАНИЕЛИЦ

2

BioSurveillanceNEXT,HertaSecurity

4

AxxonNext,AxxonSoft

5

Оплаталицом,VisionLabs

9

«AgeVerification»,Yoti

11

BioFinder,HertaSecurity

12

FaceRadar,НейросетиАшманова

13

Визирь.СКУД,ЦРТ

15

LunaSDK,VisionLabs

59

71

2

7386

87

18

33

7978

52

80

87

142

83

35

30

29

8

44

140118

115114

113111

110

5

181179

133

107

147

10

124

119

12

135

134

108

149

139138

125126

89

155

6

127

160

158

157

60

72

7032

1

75

49

61

81

5048

3

145

20

9

3841

7677

4246

11

7

3736

3431

3

2827

4

85

84

153

8890

109

192

9192

93

131

106

132

178

188

184183

177176

182180

98

151152

175174

137136

154150

163

123

121

128

159

156

162161

120

5354

5556

122

101

Передвамикартатехнологий,котораяотображаетландшафтпроанализированныхнамиинстру-ментовнабазеискусственногоинтеллекта.

Кругразделенначетыредолиитриокружности:долипоказываютсубтехнологии,аокружности—степеньзрелоститехнологическогорешения.

Каждоерешениепредставляетсобойточкунаэтойкарте.Местоположениеинструмента

отображает,ккакойсубтехнологии

онотноситсяинакакомэтаперазработкинаходится.

Точкиобъединенывлинии—такпоказаны

функциональныегруппыинструментов.Благодаря

этомуможнопонять,насколькотаилиинаягруппаинструментовготоваквнедрению

иккакиесубтехнологиивнейзадействованы.

21

Распознаваниедействий,NtechLab

23

Распознаваниелицпотепловымсигналам,МОСША

25

Видеонаблюдениедляшкол,NTechLabиЭЛВИС-Неотек

26

IVACV,IVAСognitive

27

SmartCheck,iProov

28

AIXunren,Baidu

29

FaceGo,Hanwang

30

O.Gate,O.VisionиBeeline

31

Face2Pay,АкБарсБанк

34

FaceID,Apple

35

FindFaceMulti,NTechLab

36

FaceNet,Google

37

FRVT,NIST

39

EES,ThalesGroup

40

Распознаваниелицваэропортах,ThalesGroup

51

FERET,NIST

57

CityBrain,AlibabaDAMOAcademy

58

Защитаотморфинговыхатак,Институтыим.ГумбольдтаиФраунгофера

74

БенчмаркмоделейИИдля

распознаваниялиц,Havelsan

5

ИЗВЛЕЧЕНИЕСМЫСЛАИЗТЕКСТА

104

Томита-парсер,Яндекс

105

ABBYYCompreno,ABBYYиСбер

106

Определениесмысламногозначныхслов,IBM

107

Определениесмысламногозначныхслов,УниверситетыСан-Паулу

иДалахаузи

110

InstructGPT,OpenAI

111

BERT,Google

113

Expert.ai

114

R-NET,Microsoft

115

CAILA,JustAI

118

mGPT-3,SberDevices

140

ConversationIntelligence,INVOCA

148

ИИдляпоискафинансовыхпирамид,ПолицияКореи

197

BEATиEMILIE,Deloitte

КЛАСТЕРЫИКЕЙСЫ

2

ОПРЕДЕЛЕНИЕКОНТЕКСТА

ПРОИСХОДЯЩЕГОНАВИДЕО

1

Обнаружениеаномальныхсобытий,Шэньчженьскийполитехническийинститут

7

SenseFoundry

8

ПатрульныйроботМВДСингапура

20

Whatismymovie,ValossaAI

33

Анализповедения,KeplerVisionTechnologies

38

«GunDetection»,Kogniz

41

Freemove,VeoRobotics

42

Автономныероботы,Knightscope

46

«Kipod»,Synesis

52

Анализконтентаиконтекставидео,университетЛейкхед

53

VideoIntelligence,Google

54

DETECTOR,AwaaitArtificialIntelligence

55

Анализисинтезвидео,BeijingMoviebookTechnology

56

Маркировкаучастковвидео,CLIPr

82

АнализвидеосустройствIoT

101

Распознаваниеконтекста,Менуфийскийуниверситет

109

Модерацияконференций,Audiocodes

149

Предсказаниеповедениячеловека,Колумбийскийуниверситет

196

LunaCARS,VisionLabs

6

ПОДДЕРЖКАФАКТЧЕКИНГА

89

Обманстилометрическизсистемфактчекинга,MIT

108

Проверкаисопоставлениестатей,КанадскийУниверситетВатерлоо

119

Оценкалогичноститекста,IBM

120

Правилаформированиядатасетовдляфактчекинга,MIT

121

Мультимодальныйфактчекинг,

ПекинскийтехнологическийИнститут

146

Оценкадезинформации,Factmata

155

Оценкадостоверностиновостей,SonyInteractive

156

Проверкаутверждений,УниверситетСтавангера

157

Мультимодальныйфактчекинг,CCRI

158

Мультимодальныйфактчекинг,УниверситетБеннета

159

Специализированныйфактчекинг,

ТехнологическийинститутНью-Джерси

160

Проверкановостей,IIT-Patna

161

ПроверкапостоввTwitter,УниверситетМанубы

162

ПроверкарепостоввTwitter,Пекинскийуниверситет

163

ALIKAH,ТехнологическийуниверситетАбдулаКалама

164

Инструментарийдляфактчекинга,FullFact

165

ClaimBuster,УниверситетТехасавАрлингтоне

166

ПроверкановостейоCOVID-19,группаиндийскихучёных

7

РАСПОЗНАВАНИЕСИМВОЛИКИ

14

«BrandRecognition»,CVIsionLab

16

VizPol,Колумбийскийуниверситет

24

SmartIDEngine,SmartEngines

62

Идентификациясимволикиввидеоиграх,Уппсальскийуниверситет

*КомпанияпризнанаэкстремистскойорганизациейвРоссии

63

Проверкаоригинальностилоготипов,УниверситетСеверногоБангкока

64

Идентификациясимволов,Clarifai

65

Распознаваниесмыслататуировок,КитайскаяАкадемияНаук

66

Идентификациясимволов

сраспознаваниемконтекста,Visua

67

Конкурспораспознаваниютатуировок,NIST

68

Распознаваниерукописныхэлектронныхдиаграмм,NLPR

69

Распознаваниехимическихструктур,УниверситетНотр-Дам-Луэз

84

Распознаваниекультурныхсимволов,Цзилиньскийуниверситет

122

Определениеполитическойсклонностиизображений,ПиттсбургскийУниверситет

8

ИЗВЛЕЧЕНИЕИАНАЛИЗМЕТАДАННЫХ

44

MetadataDiggerAI,DataHunters.AI

123

Определениетональностивидеопометаданным,КолледжРаштреяВидьялая

124

Извлечениеметаданныхизнейросетей,IBM

141

ОбнаружениеботоввTwitter,Мадридскийполитехническийинститут

143

SIIP,VerintSystems,Interpol

147

MADIK,УниверситетБразилиа

151

SpectrumDiscover,IBM

152

AWSContentAnalysis,Amazon

168

Криминалистическаяклассификациямедиафайлов,Университетский

колледжДублина

169

Приоритизацияэлектронныхуликпометаданным,УниверситетскийколледжДублина

170

Поискинформацииоторговлелюдьми,XDATA

194

Анализнеоднородныхмассивовданных,УниверситетПлимута

9

РАСПОЗНАВАНИЕЭМОЦИЙ

3

BioObserver,Herta

32

Анализвовлечённостиучеников,IntelиClassTechnologies

70

АнализэмоцийпоПолитехническийВаршавы

движениямглаз,университет

71

Извлечениемикровыражений

извидео,ТехническийуниверситетЭйндховена

73

Анализэмоцийподвижениюпорналице,УниверситетСтони-Брук

86

Считываниеэмоций,Хэфэйский

комплексныйнациональныйнаучныйцентр

87

Оценкагибкихнавыковповыражениюлица,Тайваньскиеуниверситеты

144

Распознаваниеэмоцийпоречи,Китайскиеуниверситеты

153

Умныйресторан,Baidu

167

Распознаваниеэмоцийпоэнцефа-лограмме,Китайскиеуниверситеты

198

Распознаваниеулыбок,Canon

10

ПОДДЕРЖКАРЕШЕНИЙ

ПРИИНФОРМАЦИОННЫХАТАКАХ

98

Мониторингсообщений,Factmata

125

Определениепредвзятости

публикаций,УниверситетДжорджаВашингтона

126

Анализязыковыхсегментовинтернета,GalisteoConsultingGroup

127

ОбнаружениеботоввTwitter,УниверситетДжорджаМэйсона

128

Выявлениепропаганды,

УниверситетХамадабинХалифа

129

Обнаружениепропаганды

вновостныхстатьях,ИндонезийскаяАкадемияНаук

150

RIO

154

Оценкаущербаотпубличныхскандалов,S&P

171

Платформаанализамедиасреды,PrimerAI

172

LogicallyIntelligence,Logically

173

BrandAnalytics,ПалитрумЛаб

174

Обнаружениеактивностиботов,GalisteoConsultingGroup

175

«Bot-Match»,УниверситетКарнеги—Меллона

176

Идентификацияинформационных

кампаний,ПринстонскийУниверситет

177

Анализинформационныхопераций,УниверситетКарнеги—Меллона

178

АнализСМИисоцсетей,Медиалогия

179

Avalanche,ЛавинаПульс

181

Крибрум,ГКInfoWatch

11

ГЕНЕРАЦИЯКОНТЕНТА

6

SwinIR,ВысшаятехническаяшколаЦюриха

10

CogVideo,УниверситетЦинхуа

19

DALL·E2,OpenAI

43

Remini,BendingSpoons

48

NeuMan,AppleиУниверситетБританскойКолумбии

50

РедактированиеобъектоввXR,Осакскийуниверситет

76

Make-a-Video,Meta*

77

Hotpot.ai,Panabee

78

ИИ-хореограф,КалифорнийскийуниверситетиGoogleResearch

79

Изменениецветапопримерам,

Восточно-китайскийпедагогическийуниверситет

80

DeepFillv2,университетыСШАиКитая

81

VQGAN,Гейдельбергскийуниверситет

83

Переводизображенийввоксельныемодели,Харбинскийуниверситет

131

StableDiffusion,StabilityAI

132

Character.ai

133

Frase

134

BAYOU

135

Rephrase

136

Radar,PAMediaGroupиUrbsMedia

137

АдаптирующийсяИИдляобработкиигенерациитекста,исследователиизСамары

138

Генерациязаголовковнаучныхстатей,AdobeResearch

139

Генерацияновостныхстатей,BVICAM

142

Sonantic

145

Jukebox,OpenAI

12

РЕКОМЕНДАЦИЯКОНТЕНТА

180

Рекомендацияфильмов,

международнаягруппаучёных

182

CARCA,УниверситетХильдесхайма

183

Интерактивнаярекомендацияодежды,УниверситетГлазго

184

M2TRec,ТехнологическийинститутДжорджии

185

Состязательноеобучение

рекомендательныхалгоритмов,NetflixиFever

186

Рекомендациянабазепоследних

действийпользователя,УниверситетГлазго

187

EANA,GoogleResearch

188

Персонализированныемузыкальные

плейлистысучётомнастроения,Deezer

189

Рекомендациянедвижимости,ZillowGroup

190

PinnerFormer,Pinterest

191

Рекомендательныеалгоритмыдляонлайн-знакомствнабазематчинга,CyberAgentInc

192

РасследованиерекомендательныхалгоритмовTikTok

193

ProHealtheCoach,УниверситетАгдера

195

Адаптивнаясистемарекомендаций,Netflix

СТАДИИВНЕДРЕНИЯ

ВнедреноПрототипКонцепция

12—13

КЛЮЧЕВЫЕВЫВОДЫ

ПОКЛАСТЕРАМ

1

ОБНАРУЖЕНИЕДИПФЕЙКОВ

ВПОСЛЕДНИЕГОДЫФЕЙКОВЫЕНОВОСТИСТАЛИ

ПРОБЛЕМОЙ,ПРЕДСТАВЛЯЮЩЕЙОЩУТИМУЮУГРОЗУ.ОТДЕЛЬНОЙФОРМОЙИНФОРМАЦИОННОГОКОНТЕНТА

СЛУЖАТВИДЕОМАТЕРИАЛЫ.РОСТПОПУЛЯРНОСТИ

ВИДЕОПОДЧЁРКИВАЕТНЕОБХОДИМОСТЬИНСТРУМЕНТОВДЛЯПОДТВЕРЖДЕНИЯПОДЛИННОСТИМЕДИА

ИНОВОСТНОГОКОНТЕНТА,ПОСКОЛЬКУНОВЫЕ

ТЕХНОЛОГИИПОЗВОЛЯЮТУБЕДИТЕЛЬНОИСКАЖАТЬИПОДДЕЛЫВАТЬВИДЕОИСВЫСОКОЙСКОРОСТЬЮРАСПРОСТРАНЯТЬПОДДЕЛКИЧЕРЕЗСОЦИАЛЬНЫЕ

СЕТИ,ОХВАТЫВАЯАУДИТОРИЮВДЕСЯТКИ

МИЛЛИОНОВПОЛЬЗОВАТЕЛЕЙ.

1

СТАДИЯВНЕДРЕНИЯ

СУБТЕХНОЛОГИИ

В

Обработкаестественногоязыка

Системыпрогнозирования

иподдержкипринятиярешений

ККонцепция

ВнедреноПрототип

Компьютерноезрение

П

Распознаваниеисинтезречи

16—17

КЛЮЧЕВЫЕВЫВОДЫПОКЛАСТЕРАМ

КОНТЕКСТ

Поддельныевидео,фотоиаудиофайлысложно

распознатьневооружённымвзглядом.Приэтом

злоумышленникиспособныпроизводитьихвогромныхобъёмахииспользоватьвширокомспектресвоихзадач.

ЧЕЛОВЕКНЕСПОСОБЕНЭФФЕКТИВНОРАСПОЗНАВАТЬДИПФЕЙКИ

ИсследованиеСиднейскогоинститута

нейрологиипостановило,чтомозгможетраспознатьдипфейкив54%случаев,

носознательночеловекопределяетихлишь

в37%случаев,приэтомможносуверенностьюсказать,чтосдальнейшимразвитием

технологииобецифрыбудутуменьшаться.ИсследованиеSentinelAnalysisпоказало,

чтовYouTubeотредактированныетакимобразомвидеонабралиболее5млрд

просмотров,авTikTokболее65млн.

Производимыйобъёмдипфейковинизкийпроцентихраспознаванияобывателем

говорятотом,чтолюдейнецелесообразно

использоватьдляидентификациидипфейков.

ДИПФЕЙКИ—МНОГОЗАДАЧНЫЙ

ИНСТРУМЕНТДЛЯЗЛОУМЫШЛЕННИКОВ

ДипфейкиидругиеспособыредактированияизображенийспомощьюИИпредставляютсобойугрозудлясистемаутентификации,

атакжеинститутарепутацииираспростра-ненияправдивойинформациивцелом.

Зарегистрированыслучаииспользования

дипфейковмошенникамидляобходабиометри-ческихсистем,созданиязлоумышленниками

аккаунтовнесуществующихлюдей,шантажа,

производстванелегальногоконтента,проведениямошенническихкампанийотимениизвестных

лиц,