Процессоры нового поколения родом из России, отозванные смартфоны снова в продаже, а так же про то, что умные машины тоже ошибаются и почему в этом нет ничего страшного – главные технологические события недели, в итоговом выпуске программы Вести.net.

Привет, планета, это программа Вести.нет, как вы могли понять по картинке у меня за спиной — записывается программа не в Москве. Это Барселона и уже в воскресенье здесь начнется Всемирный мобильный конгресс одно из самых больших ежегодных шоу мира мобильной техники — да и не только мобильной, приезжают сюда все представители компаний "новой цифровой экономики". Но первые презентации начнутся только в воскресенье, в так называемый нулевой день конгресса — так что обо всем этом в наших следующих программах — ежедневных и итоговой — а сейчас к событиям недели минувшей.

Самая интересная по нашему мнению академическая работа недели посвящена обману. Есть такая организация — Open AI. Открытый искусственный интеллект. Это некоммерческая контора, созданная Илоном Маском для того, чтоб способствовать появлению не просто искусственного интеллекта — а "дружественного и этичного". Маск уже делился, в том числе и на камеру, своими опасениями относительно бед, которые может принести человечеству машинный разум. До машинного разума еще не дошло, а вот изъяны в машинном зрении уже находят.

***

Ну, вот такую страшилку увидели в исследовании журналисты. Люди, которые с нейросетями работают. "То есть, мы знаем примеры, когда наше восприятие ошибается очень сильно, — это многочисленные оптические иллюзии. И то, что было продемонстрировано в этой работе, это такая оптическая иллюзия для нейронной сети", — отметил Александр Крайнов, руководитель службы компьютерного зрения Яндекса.

Так сильно упрощая, можно представить себе следующую ситуацию. Если, допустим, нейронная сеть накапливает в качестве знаний об объекте, багаж знаний нейронной сеть о каком-то объекте, это маленькие фрагменты изображения несколько на несколько пикселей и это тысячи, десятки тысяч изображений. Предположим, что нейронная сеть знает, что такое собака, потому что она видела десятки тысяч маленьких кусочков собаки: если на изображении находятся такие кусочки, значит нейронная сеть считает, да, ок, это собака. Когда мы наносим на изображение какой-то шум, при взгляде сверху на изображение этого шума не очень ты видно, изображение такое же, как было. Но если посмотреть под лупой, в глубине оно поменялось довольно сильно, может быть достаточно сильно для того, чтобы вот эти маленькие кусочки, которые помнила нейронная сеть, они изменились настолько, что картинка перестала быть собакой, а стала, скажем, чем-то ещё.

И, в общем, также, все, как и с оптическими иллюзиями. Выглядит здорово и загадочно, но пользуются ими злоумышленники только в детективных романах, да и там нечасто.

"Если мы говорим о системах таких, как системы наружного наблюдения, то я честно говоря не понимаю, каким образом это можно поделать. Нельзя же поделать ситуацию на улице таким образом, чтобы обмануть нейронную сеть. Тем более что нужно понимать что то, что продемонстрировали учёные в своей статье, это такая очень тонкая работа. Не любой модификации получится воспроизвести этот эффект. Он должен быть прям очень-очень точным, то есть нельзя изобразить сцену на улице, которую нейронная сеть распознает вдруг совершенно по-другому. То есть, это должна быть модификация именно картинки, именно плоского представления изображения. Ну, вот возьмём такой пример — беспилотные автомобили. В Яндексе, кстати, их тоже разрабатывают. И там активно применяется компьютерное зрения. Вот как можно обмануть беспилотный автомобиль? Я с трудом представляю себе ситуацию, когда перед беспилотным автомобилем кто-то показывает ложные картинки. Причём так, чтобы сеть на них ошибалась. Ну, вряд ли же такое возможно", — считает Александр Крайнов, руководитель службы компьютерного зрения Яндекса.

В общем, хотелось сенсацию и боевую фантастику — с картинкой против искусственного разума, а получилось- как всегда.

Что у нас еще было на этой неделе? Вот новости, навевающие легкую грусть. О том, как из мира уходят великие имена компаний-инноваторов, их как динозавров доедают более юркие и живучие.

Раз уж начали про телефоны — продолжим историей от Самсунга, который все никак не оставит позади малоприятный эпизод с горючим смартфоном по имени Ноут 7.

***

Сделка недели, в которой не обошлось без популярного нынче слогана "Russians did it". На этот раз речь идет о новых процессорах. Необычных.

***

А теперь — рубрика "фрик недели". Хотя, почему недели — речь пойдет о человеке, который сменил свою фамилию на точка.ком, и у которого дома была фигурка Хищника в натуральную, то есть фантастическую величину — двухметровая. Ее потом в музее современного искусства показывали.

***

И это еще не фишка недели — но, с другой стороны и нечто большее. Эппловцы наконец достроили свой межгалактического вида кампус. Выяснилось, что даже компании из Купертино не под силу изменить базовых законов строительства — ничего и никогда нельзя сдать в срок и при этом уложиться в смету. Кольцеобразное здание откроет свои двери для работников Apple в апреле, хотя изначально сдача намечена была на 2015 год. Ну и цена проекта выросла с 600 миллионов сначала до трех миллиардов, а потом — и до 5. Зато какая красота, летающая тарелка, НАСА впору новую пресс-конференцию собирать.