Авторизация



Напомнить пароль
Регистрация

Нейронные сети → Понятие о нейронной сети.

Под нейронными сетями (НС) понимают параллельные вычислительные структуры которые моделируют биологические процессы обычно ассоциируемые с процессами человеческого мозга. НС обладают способностью приобретать знания о предметной области, обучаясь на примерах.

История НС начинается с работ американских ученых У. Мак-Каллона, В. Питтса (1943г. модель формального нейрона) и Ф. Розенблатта (1957г. однослойная НС, названная им перцептроном). Перцептрон – электронное устройство, моделирующее глаз улитки и его взаимодействия с мозгом. Перцептрон в викепедии

Искуственный нейрон — это элементарный преобразовательный элемент, имеющий непустое множество входов, на которые поступают сигналы х1, х2, …, хn. Суммирующий блок, блок преобразования сигнала с помощью активационной проекции и один выход Уо. Каждому входу приписан свой «вес» w (соответствующий мере» биологической синаптической связи). Функционирует нейрон в два такта, на первом такте в суммирующем блоке вычисляется величина возбуждения полученного нейроном. Другими словами, нейрон имеет входные сигналы, в биологическом нейроне роль «собирателя» этих сигналов от другий нейронов служит дендрит, и у нейрона есть выходной сигнал, в биологическом нейроне передатчиком сигналов другим нервным клеткам служит аксон. Другими словами, в нейрон от других нейров приходит какое-то число сигналов, обработав их, нейрон передает выходной сигнал далее, другому нейрону.

Функционирует нейрон в два такта, на первом такте в суммирующем блоке вычисляется величина возбуждения полученного нейроном

На втором такте суммарное возбуждение пропускается через активационную (преобразующую) функцию F в результате чего получается выходной сигнал Yо = F(Y).

Существует 4 вида активационной функции:
1)Линейная функция (гистерезис)


2)Функция единого скачка


3)Сигмоидальная функция активации


4)гиперболический тангенс

Применение

НС это инструмент для решения широкого класса задач, используется в качестве средства обработки информации, обладая следующими возмлжностями:

1)гибкая модель для нелинейной апроксимации многомерных функций;
2)средство прогнозирования во времени процессов, зависящих от многих переменных;
3)классификатор по многим признакам;
4)средство распознования образов;
5)поиск закономерностей в массивах данных и др.

Нам показали рабочую программу распознования автомобильных номеров. Загружалась фотография, и программа безошибочно определяла цифры и буква номера. Как работает такая НС. НС необходимо обучить, т.е. ей показывают большое количество различных букв и цифор. Когда она обученна, она сопособна сравнивать и при необходимости аппроксимировать, то что ей уже известно, с тем что ей показывают сейчас. то есть чуть ли не основная возможность НС это аппроскимирование различных функций. Как пример нам также приводили НС, которой например никогда не показывали букву «А», ей дали несколько очень размытых и не точных образов этой буквы, после чего НС сапроксимировала из нескольких образов нормальную, полноценную букву «А», т.е. НС сама получила новые знания.

Комментарии (24)

rss свернуть / развернуть
оформление:
1. спрячьте под cut
2. много грамматических ошибок
3. формулы лучше смотрятся, если их оформить в latex
содержание:
1. как биологический нейрон связан с формальным? (никакого перехода по смыслу)
2. зачем такая объемная часть биологии? что она дает для понимания теории ИНС?
3. «Преобразующая функция, как правило, должна удовлетворять двум условиям:
1) F(.) по модулю < 1
2) F(.) – монотонная (обычно неубывающая). „
зачем?
4. Зачем нам вообще нужны эти нейроны и нейронные сети? Что при помощи них можно делать? Области применения? Примеры?
5. Глядя на 4ый пункт… Как ИНС решают эти задачи? Как работают? Почему такая модель нейрона? Есть ли другие?

PS Мне ответите, заодно и сами поймете)) Ничего личного)
свернуть ветку
Да это всего лишь лекции препода, мы сами не понимаем зачем так много биологии. Перехода собственно говоря тоже не было в лекциях никаких. Поэтому, в конце пояснил, что мы сами пока не понимаем о чем речь идет. Надеюсь на следующий лекциях что-нибудь нормальное расскажут, пока что вода-вода-вода. А по оформлению учту на будующее.
свернуть ветку
мгм… а вы не хотели сами разобраться? и не ссылаться на то, что вам кто-то не рассказал) вроде вы сюда выкладываете материал, а не ваш препод. так и вложите в него ваше понимание..) всем будет только лучше… и нам и вам.

PS я правда не хочу вас задеть ничем. просто такая позиция, «жесткая», что ли
может, смотивирует. надеюсь на это
свернуть ветку
Это школа «Нейрокибирнетики» т.е. они пытаются скопировать человеческий мозг, как центр интеллекта. От сюда и столько биологии. :)
свернуть ветку
скорее не скопировать, а смоделировать) я вроде в курсе) спрашиваю, чтобы автор разобрался))
свернуть ветку
жесткая позиция это да, в близжайшее время попробую написать то как это я сам понимаю
свернуть ветку
Можно спросить? :)
По какому принципу выбирали активационные функции? Можно ли взять $y = x^2$?
свернуть ветку
активационная функция сети, как правило, является неубывающей и ограниченной,
в иных случаях процессы обучения и использования сети становятся достаточно непредсказуемыми
свернуть ветку
конечно, ну вот мне и интересно откуда у как правило ноги растут;
раз это какое-то правило, значит оно должно звучать как правило, т.е. как некая теорема, я думаю))
свернуть ветку
ноги растут из практических применений ИНС
свернуть ветку
конечно, а откуда ж им ещё расти) этот рост, только, должен быть контролируемым
свернуть ветку
Можно спросить? :)
По какому принципу выбирали активационные функции? Можно ли взять $y = x^2$?
Хм… почему не отобразил $y = x^2$?
свернуть ветку
потому что вот: $$ код $$
свернуть ветку
да уж, смешно))) короче, там 2 знака доллара нужно)
свернуть ветку
не, меня уже научили \[ y = x^2 \]
теперь мы вот нафлудили, хочется последние 4 поста, включая этот удалить, а 5й подредактировать )
свернуть ветку
Опять самый-самый базис… Когда уже что-то поинтереснее появиться, что-то более углубленное?) Для таких вот неудачников, как я, кто не попал в ВУЗ)
свернуть ветку
а вы знаете, что было бы вам интересно? и что для вас «углубленное»? моделирование динамического объекта в matlab при помощи ИНС это уже углубленно или еще не очень? высказывайтесь, может что-нибудь напишу) или может реализация какого-либо алгоритма обучения хитрого + сравнение его с другими… или еще не знаю там… про машину неустойчивых состояний в общем можно написать (LSM)
свернуть ветку
Матлаб — не очень интересен, но послушал бы.
Хитрые (или редкие, или быстрые) алгоритмы обучения — с удовольствием, а если еще и со сравнениями, так это вообще.
И про машину можете, тоже, да.
Проблема в том, что в интернетах полным полно информации о том, что такое нейронная сеть, какие бывают алгоритмы нейронных сетей, какие виды, где и как можно использовать, активационные функции и все такое прочее… но… Это все базис, который, если постараться, можно изложить в одной статье (или лекции) без потери в информативности. А вот дальше этого базиса количество инфы в интернетах снижается даже не в логарифмической — в катастрофической прогрессии.
А жаль, хотелось бы узнать чего-то нового.
свернуть ветку
Согласен с вами, но маленькая оговорка...«в русском интернете колво инфы снижается...») На английском очень даже можно найти. Потому что все передовые разработки там, за бугром) И не обязательно США, хотя там много наших и поэтому да)) В общем полагаю, что наши знания примерно одним ограничиваются… Самая большая «проблема» лично для меня, что я не знаю, куда идти потом, когда все эти методы, модели и т.д. выучатся) Но, думаю, найду что-нибудь) А вам это особо не нужно, как я понял. Потому что вы просто из интереса тыкаете… А так бы я спросил, как вы видите для себя решение о дальнейшем направлении поиска))
свернуть ветку
В английском я, по мере сил, тоже искал. Но, опять же, сложно искать то — не знаю что. Если просто вбить «Нейронные сети» то в результатах будет только базис. В базисе, конечно, периодически мелькают наводки на доп. материал, но их слишком много, чтобы все штудировать. Хотелось бы что-то такое — краткое, ёмкое, понятное и в одном месте)) Да, я знаю, размечтался))
Мне это, наверное, действительно не особо нужно, ведь и так, без этого знания, можно выживать. И без компьютера тоже — можно. И вообще без кучи-кучи всяких других знаний. Только как-то… не то… скучно, наверное, вот и интересуюсь всяким)
А если серьезно, то есть у меня некоторый практический интерес к НС. Я тут на досуге разрабатываю ориентированный на поток данных язык программирования и операционку для него. И нейроны очень удачно вписываются в концепцию языка, ведь они и есть те самые автоматы, которые «сидят» на потоке данных и преобразуют его. Я думаю внедрить искуственные нейроны и нейросети как элемент языка и системы. Вот потому и интересуюсь)
свернуть ветку
Хм)) А язык этот для чего разрабатываете? Тоже для себя? Задачка не из простых, как мне кажется)) Тем более + операционка))
свернуть ветку
Ну… да… понимаете, я чувствую себя очень одиноким 30-летним бородатым девственником, со мной никто не хочет общаться, поэтому я решил создать ИИ, чтобы он со мной общалсо…
Не для себя, а в качестве народного достояния под лицензией GPL. Когда дело дойдет до некоторого базиса, я думаю, что команда разработчиков значительно расширится, бо язык многообещающь. Да, непросто, но надо же в чем-то себя реализовать и прославить)
свернуть ветку
хехе))) ну там не знаю) киньте ссылку что ли на sourceforge или где вы там обитаете)) рассказать вообще про это не хотите? было бы интересно) во всяком случае мне) Хотя бы про направление в котором работаете, раз базиса нет. Тем более GPL — вообще нечего бояться))
свернуть ветку
Пока рано. Все в очень очень ранней стадии разработки.
А что Вы подразумеваете под направлением? Для чего это все? Теоретически — для любых задач. Цель — создание максимально универсального языка и системы, заточенной под него. Тем паче, что парадигма подходит, ведь в сущности любая задача сводится к управлению потоками данных.
Я могу рассказать подробнее, если есть интерес или хотя бы возможность присоединиться. А так, на публику пока нечего выносить.
свернуть ветку
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.