Аппроксимация нейронными сетями

[ushastyi]

На собеседование приходил студент-пятикурсник, который занимается аппроксимацией модели аэродинамики самолета при помощи нейронных сетей. Модель большая и сложная, у нее около 700 переменных и 70 критериев. Поскольку эту тему он по идее должен знать лучше всего, в основном говорили о нейронных сетях

Comments

Остался не озвученным ответ...

[o_iv]

на главный вопрос: смог ли студент ответить на ваши вопросы? И на второстепенный вопрос: взяли ли вы его на работу? Так что, ваша нейронная сеть на данный момент сошлась в какую-то странную точку, делать с которой непонятно что :-)
С другой стороны, пока на Земле нет достаточных вычислительных мощностей для полного правильного расчета аэродинамики самолета класса Б747 или А380. И, может быть, с учетом того, что даже для простых задач реальность сильно отклоняется от расчета по навье-стоксу, нейронная сеть даст лучший результат?
В общем, это надо проверять. И, судя по всему, кто-то это активно проверяет :-) но это другая история, и не мне о ней рассказывать, я уже не в теме пару лет как...

Re: Остался не озвученным ответ...

[ushastyi]

Как же, а вот же "К сожалению, мой собеседник ни на один вопрос ответить не смог. Видимо, физикам достаточно знать что метод "работает", а как он работает -- это их мало волнует." Пока не знаю, возьмем ли на работу. Говорят, и похоже на то, что умный. Но в нашей области (программирование) -- практически чистый лист. Что и хорошо, и плохо

Теперь моя нейронная сеть завела меня куда-то :-)

[o_iv]

Я эту фразу прочитал но, почему-то, она у меня как именно результат собеседования не прошла в сознание.
А по поводу нейронных сетей - естественно, кормить сеть заведомо ошибочными результатами расчетов - не очень верный путь. Ее учить надо на результатах реальных продувок и реальных измеренных характеристиках. Тогда есть шанс получить полезный результат.
Про численные методы - да, они позволяют отбросить какие-то заведомо неживые схемы. С другой стороны, 99% выпускников технического вуза эти схемы отбросят тоже :-)
И из личного опыта в качестве заказчика CFD-расчета, полезность результата зависит почти полностью от того, кто делает расчет.
А общий вывод, который я вынес из: основная польза моделирования вот прямо сейчас - это картинки, которые можно показать начальнику/инвестору/публике и сказать: "видите, по результатам компьютерного моделирования разработанная нами фигня будет работать!" А не: "Мамой клянусь, все заработает!" :-)

Re: Теперь моя нейронная сеть завела меня куда-то :-)

[ushastyi]

Это был не результат собеседования, а его процесс :)

Насчет численных методов я не совсем точно выразился. Слово "заведомо" -- лишнее. В данном контексте, они помогают сэкономить время проверки на продувке тех схем, которые скорее всего не рабочие, и наоборот идентефицировать потенциально интересные, которые имеет смысл рассчитать более точно или даже продуть. Причем до численного моделирования, это непонятно. Как-то так.

Ваш общий вывод приводит к другому неновому, но и не ставшему от этого менее утешительным, выводу: падению уровня образования и компетенции. Первый вопрос, который бы возник у меня, если бы мне принесли "результаты компьютерного моделирования" -- что это за модель и насколько адекватно она отражает моделируемую область. И "мамой клянусь!" тут тоже не пройдет :)

[whiteferz]

=== То есть вопрос переформулируется в вид, можно ли аппроксимировать произвольную непрерывную функцию суперпозицией и линейной комбинацией простых функций одного переменного. Ответ положительный (это следствие из более общего утверждения). Никаких специальных условий на функцию активации не накладывается. ===

А вот насчет возможности использовать полученную аппроксимацию для, скажем, экстраполяции - ответ в общем случае, очевидно, отрицательный. (Берем косинус и приближаем параболой на отрезке от плюс-минус два пи пополам, затем... экстраполируем - и всё понятно.)

Кстати, если немного в сторону - попробовали обучать "нейронную сеть" отбирать фотоснимки ландшафтов, на которых есть окопавшиеся танки, а на которых нет.

И сеть дала 90%-ную точность, что вначале было оценено, как суперуспех. Затем стали разбираться с оставшимися десятью % и начали ставить диагностические тесты.

Оказалось, нейронная сеть определяет подходящий для маскировки танков ландшафт, как фактически ощетинившийся танкамиТо есть, никогда нельзя точно сказать,

[ushastyi]

С экстраполяцией, очевидно, что никак, если только не знать вид функции. Но мне кажется, что в большинстве инженерных задач интервалы изменения переменных ограничены. А значит, можно на краях что-нибудь посчитать или проверить и скормить сети.

Пример с танками просто замечательный!

[whiteferz]

Дело в том, что если "вы что-то знаете о виде функции", то у Вас задача чистой математической аппроксимации превращается, например, в эконометрическую, динамическое программирование или что-то типа. И тут опять "результат зависит больше не от программного пакета, а от того, кто экстраполирует".

[ushastyi]

Далеко не всегда. Это "что-то" может быть, например, что функция ограничена (и известны оценки сверху-снизу) или имеет какой-то тип регулярности (периодична) или асимптотику. В этом случае от аппроксимации никуда не деться, но экстраполяция становится несколько более реальной. Абсолютно верно, что такого рода дополнительные эвристики и их разумное применение -- это всецело квалификация специалиста.