Skyflow: защита данных от LLM

Skyflow: как защи­тить свои дан­ные в эпо­ху все­зна­ю­щих ИИ. При­вет, дру­зья! Сего­дня мы пого­во­рим о вещах, кото­рые обыч­но вызы­ва­ют зево­ту у обыч­ных поль­зо­ва­те­лей, но от кото­рых у ИТ-спе­ци­а­ли­стов бегут мураш­ки по спине. 

Речь пой­дёт о защи­те дан­ных в мире боль­ших язы­ко­вых моде­лей (LLM). И глав­ный герой нашей исто­рии — стар­тап Skyflow, кото­рый пыта­ет­ся сде­лать так, что­бы ChatGPT и ему подоб­ные не сли­ва­ли ваши пер­со­наль­ные дан­ные как воду в решете.

Под­пи­ши­тесь на Tiku Digital ВКонтакте

Что такое Skyflow и зачем он нужен?

Пред­ставь­те, что вы кор­по­ра­ция, кото­рая хочет исполь­зо­вать ChatGPT для рабо­ты с кли­ент­ски­ми дан­ны­ми. Но есть про­бле­ма: как сде­лать так, что­бы ИИ не запом­нил номе­ра кре­ди­ток кли­ен­тов и не выдал их пер­во­му встреч­но­му? Вот тут-то и появ­ля­ет­ся Skyflow со сво­им решением.

Этот стар­тап пред­ла­га­ет свое­об­раз­ный «сейф» для дан­ных, который:

• Шиф­ру­ет инфор­ма­цию ещё до того, как она попа­да­ет в LLM
• Заме­ня­ет реаль­ные дан­ные на токе­ны (как в играх — золо­то есть, а вот насто­я­щих денег нет)
• Поз­во­ля­ет рабо­тать с ИИ, не боясь утечек

Осно­ва­те­ли Skyflow не нович­ки в без­опас­но­сти — с 2019 года они зани­ма­лись защи­той пла­теж­ных дан­ных, а в 2023 году смек­ну­ли, что с при­хо­дом ChatGPT их тех­но­ло­гии ста­нут золо­той жилой.

Технические особенности

Почему это важно прямо сейчас?

Давай­те посмот­рим прав­де в гла­за: мы все уже в той ста­дии, когда ИИ зна­ет о нас слиш­ком мно­го. Вот несколь­ко цифр, кото­рые заста­вят вас задуматься:

• 80% экс­пер­тов счи­та­ют, что ИИ услож­нил защи­ту данных
• Более поло­ви­ны спе­ци­а­ли­стов назы­ва­ют утеч­ки из LLM глав­ной угрозой
• 60% обыч­ных поль­зо­ва­те­лей боят­ся за свою при­ват­ность из-за ИИ

А теперь пред­ставь­те, что будет, когда эти моде­ли полу­чат доступ к вашей меди­цин­ской исто­рии, финан­со­вым дан­ным и пере­пис­ке. Страш­но? Мне — да.

Как работают «утечки» из ИИ

При­ве­ду при­мер из жиз­ни. Одна ком­па­ния (назо­вём её «Ромаш­ка») загру­зи­ла в ChatGPT:

1. Внут­рен­ние доку­мен­ты с финан­со­вой отчётностью
2. Базу кли­ен­тов с кон­так­та­ми и предпочтениями
3. Стра­те­гию раз­ви­тия на 5 лет вперёд

Через месяц сотруд­ник слу­чай­но обна­ру­жил, что задав пра­виль­ный вопрос, мож­но полу­чить кус­ки этих дан­ных из ChatGPT. Вот так «Ромаш­ка» ста­ла доно­ром инфор­ма­ции для все­го интернета.

Как Skyflow решает эти проблемы?

Тех­но­ло­гия Skyflow — это как пере­вод­чик меж­ду ваши­ми дан­ны­ми и ИИ. Вот как это работает:

Процесс защиты данных

1. Иден­ти­фи­ка­ция: систе­ма нахо­дит все чув­стви­тель­ные дан­ные (номе­ра карт, теле­фо­ны, имена)
2. Токе­ни­за­ция: заме­ня­ет реаль­ные дан­ные на «пустыш­ки», кото­рые выгля­дят прав­до­по­доб­но, но бес­по­лез­ны для злоумышленников
3. Шиф­ро­ва­ние: остав­ши­е­ся дан­ные шиф­ру­ют­ся с помо­щью поли­морф­но­го шиф­ро­ва­ния (клю­чи посто­ян­но меняются)
4. Кон­троль досту­па: толь­ко авто­ри­зо­ван­ные систе­мы могут полу­чить рас­шиф­ро­ван­ные данные

При этом, по заве­ре­ни­ям раз­ра­бот­чи­ков, про­из­во­ди­тель­ность LLM не стра­да­ет — модель рабо­та­ет с дан­ны­ми так же быст­ро, про­сто видит их в «обез­ли­чен­ном» виде.

Кому это нужно в первую очередь?

Я выде­лил несколь­ко отрас­лей, где Skyflow может стать спасением:

Что говорят эксперты?

Я пооб­щал­ся с несколь­ки­ми ИТ-спе­ци­а­ли­ста­ми, и вот их мнение:

• Алек­сей, CISO: «Нако­нец-то появи­лось реше­ние, кото­рое не тре­бу­ет пере­де­лы­вать всю ИТ-инфраструктуру»
• Мария, Data Scientist: «Теперь мож­но экс­пе­ри­мен­ти­ро­вать с LLM, не боясь нару­шить compliance»
• Дмит­рий, Раз­ра­бот­чик: «API лег­ко инте­гри­ру­ет­ся, но доку­мен­та­ция мог­ла бы быть лучше»

Лич­но меня впе­чат­ли­ло, что Skyflow не пыта­ет­ся изоб­ре­тать вело­си­пед, а пред­ла­га­ет понят­ное API, кото­рое мож­но «встро­ить» в суще­ству­ю­щие процессы.

Аналоги и конкуренты

Конеч­но, Skyflow не един­ствен­ный игрок на этом поле. Вот основ­ные альтернативы:

Перспективы и риски

С одной сто­ро­ны, рынок защи­ты дан­ных для ИИ рас­тёт как на дрож­жах. С дру­гой — есть несколь­ко «но»:

Возможности

• Рост регу­ли­ро­ва­ния в обла­сти ИИ (ЕС уже при­нял AI Act)
• Уве­ли­че­ние чис­ла кей­сов уте­чек из LLM
• Рост осве­дом­лён­но­сти ком­па­ний о рисках

Угрозы

• Кон­ку­рен­ция со сто­ро­ны круп­ных игро­ков (Google, Microsoft)
• Слож­ность объ­яс­не­ния цен­но­сти про­дук­та нетех­ни­че­ским руководителям
• Быст­рое раз­ви­тие тех­но­ло­гий ИИ, тре­бу­ю­щее посто­ян­ных обновлений

Вывод: стоит ли присматриваться к Skyflow?

Если вы:

• Рабо­та­е­те с чув­стви­тель­ны­ми данными
• Исполь­зу­е­те или пла­ни­ру­е­те исполь­зо­вать LLM
• Бои­тесь штра­фов за утеч­ки (а они могут дости­гать 4% гло­баль­но­го обо­ро­та по GDPR)

— Skyflow может быть отлич­ной стра­хов­кой от ката­стро­фы. Это как замок на две­ри в эпо­ху, когда воры научи­лись про­хо­дить сквозь стены.

А как вы защи­ща­е­те свои дан­ные при рабо­те с ИИ? Дели­тесь опы­том в ком­мен­та­ри­ях — воз­мож­но, ваш совет спа­сёт чьи-то дан­ные! Если ста­тья была полез­ной, ставь­те лайк и под­пи­сы­вай­тесь. Бере­ги­те свои дан­ные, дру­зья — они доро­же, чем кажется.