Про нейронные сети в быту

[ermouth]

Отличный пассаж нашёлся у Уоттса в “Морских звёздах”, про нейронные сети:

— А там нет пилота. Только умный гель.

— Серьезно? Лучше бы ты мне этого не говорил, — хмурится Джарвис. — Страшноватые штуки эти гели. Ты знаешь, что один из них задушил кучу народа в Лондоне пару лет назад?

Кита уже хочет сказать, что знает, но у пассажира опять приступ болтливости:

— Нет, серьезно. Он там управлял системой подземки — никаких нареканий, идеальный работник, а потом однажды эта штука просто забыла запустить вентиляторы, когда было надо. Поезд заезжает на пятнадцать метров под землю, пассажиры выходят, воздуха нет, бум!

Джоэл уже слышал эту историю. Коронная фраза как-то связана со сломанными часами, если он все помнит точно.

— Эти штуки вроде как учатся на собственном опыте, правильно? — продолжает Джарвис. — Ну и все думали, что зельц научился запускать вентиляторы по какому-то очевидному признаку. Жару тела, движению, уровню углекислого газа, ну ты понимаешь. В результате выяснилось, что эта хрень просто смотрела за часами на стене. Прибытие поезда совпадало с предсказуемым набором паттернов на цифровом дисплее, поэтому она включала вертушки, когда видела один из них.

— Ага. Точно, — Джоэл качает головой. — А какие-то вандалы часы разбили. Или что-то вроде того.

--------------

Прямо коан Минского – “Если нейросеть запрограммирована случайно, это не значит, что у неё нет состояния, это значит, что оно вам неизвестно”.

Класс! Уоттс вообще прекрасен, конечно.

Comments

[archaicos.livejournal.com]

Дык, да! Я ровно по этому не люблю распознавалки речи. Они зацепляются за какие-то второстепенные особенности фонем, обычно сопутствующие основным, и хреново работают с речью с акцентом, на котором не были тренированы, и на сигнале низкого качества. Если подумать, то нейронные сети — это как в сказке про пойди туда, не знаю куда, принеси то, не знаю что. Это уже в 19-м веке было. :)

[ermouth.livejournal.com]

Это и в XX было – тут просто недостаток средств отладки и разработки наблюдается. В этом свете профессия робопсихолога не выглядит таким уж гротеском.

Есть какой-то достаточно академический случай, как разрабатывали, кажется, систему целеуказания и она даже стала давать волшебные результаты в первой мелкой серии в кремнии, которую ещё можно было учить/перепрошивать.

Но решительно не работала уже в более крупной партии.

Так вот там оказалось, что всё предсказание сети по хорошему крутилось вокруг дефекта проектирования самого чипа – при каких-то очень определённых условиях фрагмент чипа перегревался и работал как попало.

И неожиданно там совпало, что в этот режим "как попало" чип выходил при сближении с целью о_О

С другой стороны, мы ведь не знаем какую именно функцию над входным сигналом релизует наша, _человеческая_ входная сеть слухового нерва. Ей ничего не мешает как раз раскладывать на такие особенности, которые не зная как она работает, кажутся «левыми».

Куда более простые алгоритмы требуют иногда очень странных преобразований. Скажем, автокоррелятор для детектирования поворота картинки требует минимум одного базиса, идущего спирально. Если этого не знать, такой набор данных, сделанный из картинки (спиральная развёртка), может показаться дичайшей машаниной. И уж тем более дико будет выглядеть его wavelet-свёртка, а именно она и используется в результате для детектирования.

[ermouth.livejournal.com]

Картиночка вот, к последнему предложению, как выглядит похожая развёртка. Страшновато, да.

[archaicos.livejournal.com]

Картинка для опознавания котиков.
И картинка для опознавания козлов. :)

[ermouth.livejournal.com]

я чуток поправил картинку, добавил свёртку, эквивалентную сравнению двух картинок, повернутых на небольшой угол. становится понятно как оно работает.

[dennyrolling.livejournal.com]

нейронные сети вообще легко обмануть: http://arxiv.org/abs/1412.1897

[ermouth.livejournal.com]

Интересная, судя по публикации как-то не похоже что их обмануть _легко_.

А скажи, вдруг тебе попадалось что-нибудь по оценкам энергетики таких распознаваний? Ну то-есть хочется получить какие-то знания, скажем, сколько джоулей нужно, чтобы распознать котика. Какие-то систематические исследования вопроса.

[archaicos.livejournal.com]

Порядка 1-10 ГДж нужно чтобы ребёнка сделать и до котораспознавания дорастить?

[dennyrolling.livejournal.com]

не слышал про такое, нет. если узнаю что то напишу.