Видео

ещё совсем недавно нейросети не были массовым продуктом это было либо развлечение для Энтузиастов либо узко специализированный инструмент для исследователей а ранние версии ии чат-ботов языковых моделей в буквальном смысле сходили с ума пообщавшись с пользователями соцсетей Бота та компании

Microsoft пришлось отключить спустя всего 16 часов после запуска когда тот самоо обучился на твитах и стал Изра проклятия Но сегодня машина обучение наконец окончательно выползла из пелёнок и достигло порога очень крупной монетизации и и продукты научились решать некоторые задачи достаточно хорошо

чтобы пользователи были готовы за это платить инвесторы ринулись вкладывать безумные деньги в разработку а разработчики кинулись собирать каждый не прибитый к полу клочок данных который можно использовать для обучения зачастую игнорируя нормы морали авторское право и законы робототехники А нам с вами

достался не только миллион фотографий рук с шестью пальцами но и новые проблемы с конфиденциальностью и безопасностью сегодня о них и поговорим задача машинного обучения сделать так чтобы компьютер мог собственно говоря

самостоятельно обучаться обрабатывая информацию и находить более эффективные способы решения тех или иных задач в идеале вообще без человека но до этого Пока очень и очень далеко машинное обучение - это очень Широкая область знаний сопряжённое с исследованием искусственного интеллекта она включает в

себя множество различных методов каждый из которых имеет своё применение но в быту самые известное из них обучение многоуровневых искусственных нейронных сетей или так называемое глубокое обучение именно глубокое обучение и лежит в основе большинства популярных ии продуктов в Глу

обучени нейросеть - это особая структура напоминающая по устройству нейронные связи в человеческом мозгу она обучается на колоссально массиве данных и самостоятельно находит в них те или иные закономерности в отличие от классических алгоритмов где правила задаёт программист опираясь на экспертный

опыт нейросети сами открывают правила и закономерности заложенные в данных в том числе закономерности которые крайне тяжело описать виде чёткого алгоритма именно это позволяет продуктам на основе глубокого обучения решать такие сложные задачи как синтез голоса или изображения или

анализ обработку и перевод естественной речи этим занимаются так называемые языковые модели но за эту суперспособность приходится дорого платить глава ии стартапа entropic Дарио Амадей заявил что стоимость обучения передовых и моделей сегодня приближает

к 1 млр долларов США А в ближайшем будущем эта сумма может увеличиться как минимум на порядок А как Максимум в сотни раз вычислительные мощности тоже стоят недёшево по данным издания бизнес инсайдер работа gpt обходятся Open ai в 700.000 долларов

ежедневно глубокое обучение стоит безумно дорого вы поняли но самый главный и труднодоступный компонент данные нейросеть сама по себе бесполезна чтобы она могла решать какие-то задачи её необходимо обучать на огромных массивах данных Чем более продвинутый ии компания хочет получить

тем больше качественнее и разнообразнее должен быть датасет и этот вопрос не получится Просто взять и закидать деньгами зачастую ограничивающим фактором является даже не стоимость а доступность поставьте себя на место разработчика языковой модели Вот вы уже скормили ненасытной машине все

цифровые библиотеки литературы согласившись предоставить вам доступ к своим данным все опубликованные в открытом доступе научной статьи все публикации крупных СМИ транскрипции песен фильмов шоу на ютубером наборы без связанного бледа из тех соцсетей которые позволяли это сделать но что дальше где брать новые

данные для обучения нового поколения продуктов которые старательно вкладывали деньги инвестора ответ очевиден у пользователей то есть у вас за прошедшие пару лет множество и продуктов оказались в центре скандалов связанных с авторским правом и защиты конфиденциальности пользователей

к примеру Open ai договорилась о разработке новых и продуктов совместно со Stack Overflow ресурсом на котором программисты отвечают на вопросы и делятся готовыми решениями различных задач Open ai будет обучать свои модели на этих самых ответах и решениях ак будет создавать свои продукты

на базе этих моделей участников сообщества стека это привело в ярость их многолетние труды без компенсации передают третьей строне даже не спросив разрешения чтобы с его помощью создавать коммерческие продукты многие пользователи принялись удалять или портить свои старые ответы в знак протеста но

согласно правилам ресурса никакого разрешения им не требуется поэтому ветеранов на советах которых обучались буквально миллионы программистов никто слушат не стал протестующих просто отправили в бан и и startup entropic который я уже упоминал чуть раньше судится со звукозаписывающие компаниями за право бесплатно

и без лицензии использовать их песни для обучения своих моделей разработчики мотивирует это тем что их продукт анализирует статистические взаимосвязи между словами и смыслами и не используют в работе сами произведения А значит это добросовестное использование ещё интереснее ситуация обстоит с AD разрабатывающий

Photoshop premer Pro и ряд других программ для творческих профессий та покусился на авторский контент который ещё даже не опубликован в июне компания объявила своим пользователям что будет анализировать их контент при помощи машинного обучения целью было заявлено Улучшение качества софта тогда многие

предположили что речь идёт про генеративный ифф Вот вы рисуете картину ретуши ете фото или монтируется видео и их ещё до публикации скармливают Нера сети а вам не просто никто не платит вы ещ и сами оплачиваете подписку после абсолютно предсказуемо скандала

пришлось оправдаться и пообещать что ничего такого не будет так что В текущей версии соглашения использование пользовательских материалов для машинного обучения прямо запрещено причём в двух разных местах но зато разрешено использовать материалы которые вы продаёте на AD они идут по лицензии

со стоками кстати связан интересный нюанс большие нейросети с определённой вероятностью могут довольно точно воспроизводить данные недавно собранные при обучении недавно исследователи Google Deep Mind и нескольких университетов провели исследования диффузных моделей и выяснили что из них при определённом

стечении обстоятельств можно извлечь репродукцию оригинальных изображений использованных для обучения Вы скорее всего сами с этим сталкивались diffusion Mid journey и другие генеративные ии временами рисуют картинки с водяными знаками стоков из этого можно сделать два вывода во-первых данные со стоков

были не куплены а украдены иначе водянки бы на них не было А во-вторых ваши данные в теории тоже могут всплыть у кого-нибудь в выдаче если они попали в набор для обучения и это большая проблема Каждый раз когда вы отправляете запрос чатбот или и и помощнику вашу переписку используют

чтобы обучать новые версии языковой модели ведь это идеальный исходный материал живой дышащий текст написанный настоящим а не виртуальным автором как минимум Google и Open ai собирают ваши разговоры с чатбот для обучения своих моделей А обучение зачастую происходит при участии живых людей

которые просматривают и размечают материалы тут несколько звеньев то есть Сначала вы используете продукт для каких-то личных или рабочих и сообщаете ему большое количество информации о себе в том числе конфиденциальной потом разработчик может показать эту информацию каким-то неизвестным третьим лицам

а в итоге она используется для обучения новых и продуктов и может случайно всплыть в выдаче чатбот у другого пользователя сами разработчики и прекрасно понимают какими жуткими проблемами с безопасностью это грозит технический директор Microsoft к примеру заплети сотрудникам вводить информацию

в чат gpt Если те используют его для рабочих задач несмотря на то чтот gpt - это их собственный продукт такое же предупреждение выдал юрист Amazon своим коллегам бизнес инсайдер приводит его слова ваши запросы могут использоваться как данные для обучения следующих версий Chat gpt и мы не хотим

чтобы его выдача включала или была похожа на наши конфиденциальные сведения А я уже видел случаи когда выдача близка к существующим материалам конец цитаты это касалось в том числе кода программистам Amazon запрещено отправлять Исходный код в ии сервисы Чтобы избежать утечки корпоративных секретов ситуация

усугубляется ещё сильнее с появлением встроенных повсюду и и помощников корпорация Microsoft инвестировала в Open ai ещё в 2019 году а в феврале 2023 с гордостью презентовала обновлённый поисковик Bing использующий ии помощника для ответов на вопросы одновременно

с этим github крупнейший в мире сервис репозиторий исходного кода который тоже принадлежит Microsoft запустил copilot E помощника для программистов потом всех и помощников было решено объединить в один сервис который также назвали copilot а дальше copilot встроили во все новые

версии Windows alphabet материнская компания Гугла тоже создала свой аналог чат gpt чатбот под названием бар находил разработке с 2019 года и руководство Google не торопись его запускать но после релиза п компания объявила код красный и в том же феврале 2023

выпустила своего чат-бота к декабрю разработчики его усовершенствовали и переименовали в джемине А сейчас его потихоньку внедряют в экосистему сервисов Гугла последний в гонку техногир поци Apple с продуктом Apple intelligence Согласно их релизу это интегрированный

в систему генеративный искусственный интеллект который может выполнять привычные функции ии помощников а также управлять приложениями параллельно с ним будет работать и старый добрый чат gpt которому можно переадресовывается с обновлением практически на каждый новый iPhone iPad

или Mac все три экосистемы похожи между собой и и продукты встраиваются в уже имеющееся у вас приложение и работают Как ваш личный помощник разбирают заваленный почтовый ящик напоминают о важных событиях дают советы и решают несложные рабочие задачи но в отношении

всех трёх возникает вопрос Что конкретно они делают с вашими данными Когда вы просите их выполнить те или иные задачи не попадут ли они в какой-нибудь тренировочный набор и не всплывут ли потом в чьей-то чужой выдача сами разработчики заверяют что ничего подобного точно не случится и

ваши конфиденциальные сведения никто не тронет но так как они уже собирают вашу переписку и прочие данные из других ии продуктов верится в это с трудом Особенно учитывая что Каждое следующее поколение этих продуктов получает доступ к большему и большему объёму информации о вас хороший пример

Windows Recall это ещё одна и разработка Microsoft которая должна работать BX copilot Rec периодически делает сри ты вашего экрана и записывает Ваши действия а затем проводит распознавание и составляет историю всего Чем вы занимались на своём устройстве по которой потом можно делать поиск

вся ваша жизнь перед экраном в одной базе данных созданной любимой корпорации согласитесь на этом фоне новыми красками заиграла новость о том что в совет директоров openai вошёл бывший директор агентства национальной безопасности США по заявлению создателей должен работать

только локально и на большинстве устройств он даже не запустится для его работы потребуется компьютер copilot Plus со специальным и чипом учитывая что это проприетарная технология проверить слова разработчиков затруднительно Но даже если Microsoft не собирается таком вырывать информацию буквально обо всех ваших действиях

это всё равно и всё ещё огромная Дора в безопасности данные дополнительно не шифруется то есть после загрузки операционно системы их просто можно скопировать и посмотреть при этом скриншоты содержат никак не зацензурить

куда вы заходили и так далее если устройство с этой функцией будет скомпрометирована Rec снабдить нападающих огромным массивом данных которые не получилось бы собрать Никаким иным способом и удобным поиском чтобы как можно скорее найти все ваши секреты после волны критики

relee Recall отложили но этот сервис всё равно выйдет и я слабо себе представляю как его можно сделать более безопасным не удаляя основной функционал вопросы к искусственному интеллекту от Apple тоже есть хотя про него мы знаем гораздо меньше Согласно заявлениям компании Apple intelligence будет

работать в гибридном режиме то есть часть задач выполняется локально на устройстве а часть на серверах Apple в недалёком 2022 году Apple пыталась внедрить в своё Облачное хранилище и инструмент автоматически анализирующий все ваши фото якобы для борьбы с детской порнографией тогда от этой идеи пришлось отказаться из-за

давления пользователей а компания пообещала больше так не делать но всё равно возникает вопрос Если яблоко было готово залезть в ваши фотографии то что мешает залезть и в те данные которые вы отправляете на сервер ии помощнику Тем более что Apple intelligence по заявлению самой компании может управлять

другими приложениями А значит как минимум имеет доступ к их данным В общем лучше всего проявить излишнюю осторожность и последовать совету юриста из компании Amazon не выдавать чувствительную информацию и и сервисам над которыми у вас нет полного контроля не стоит кормить их персональными данными

рабочими документами коммерческой тайной творческими и личными секретами и тем более не стоит делиться с каким-нибудь чатто ком вас информацией например о том что вы участвуете в том или ином общественном движении работаете в медиа не любите Владимира Путина или донатить иноагентом

глубокое обучение с нами навсегда это невероятно интересная сфера из которой появилось множество удобных и полезных продуктов но создатели этих продуктов зачастую относятся к чужим данным как к своим и для вас это может иметь неприятные последствия лучше не полагаться лишь на их Честное слово

Меня зовут Дмитрий заирбек Я глава правозащитного проекта Первый отдел мы делаем не только интересный YouTube но и защищаем конкретных людей по конкретным уголовным делам в сфере госбезопасности Отсюда и название проекта У нас есть Telegram канал Instagram Facebook Twitter и даже tiktok

подпишитесь на нас и там ссылки будут в описании смотрите и читайте Первый отдел делитесь этим роликом с друзьями и оставайтесь в безопасности [музыка]

Не раскрывайте ИИ свои секреты