обманки 4

Чт 14 мар 2019 16:25:37
http://zahardzhan.github.io/well-tuned-emacs/
Хорошо настроенный Emacs
https://www.oreilly.com/pub/au/5259
Kenneth Kousen
https://www.oreilly.com/ideas
o'reilly Учебники HTML5 и CSS3

https://ideanomics.ru/articles/1849

Что такое deep learning и как эти компьютерные алгоритмы перевернут нашу жизнь

Главное, что нужно знать о технологиях, которые берут на вооружение Google и Facebook.
Будущее    

    1

Люк Дормел — журналист, работает для BBC и Fast Company, пишет книгу The Formula об алгоритмах и их влиянии на нашу жизнь.

В прошлом месяце Google совершила крупную сделку — купила компанию DeepMind Technologies. Приобретя фирму, которая занимается исскусственным интеллектом, Google продемонстрировала серьезный интерес к deep learning, «глубокому обучению». Но что значит этот модный термин?

DeepMind была основана в 2012 году нейрологом и бывшим шахматным вундеркиндом Демисом Хассабисом и его двумя коллегами. На их сайте говорится: «Мы соединяем лучшие методики машинного обучения и нейронауки для создания мощных универсальных обучающихся алгоритмов» в целом ряде отраслей.

Что такое deep learning?

Это все более популярная тема в области искусственного интеллекта. «Глубокое обучение» — это вид машинного обучения, основанный на нейросетях. Они помогают усовершенствовать такие алгоритмы, как распознавание речи, компьютерное зрение и обработка естественного языка. Это одна из самых востребованных областей в компьютерной науке. Но как она всего за десятилетие превратилась из загадочной научной темы в одну из самых увлекательных технологических областей?

«Deep learning сейчас очень высоко ценится, — говорит Йошуа Бенгио, профессор факультета компьютерных наук Монреальского университета, одного из главных мировых центров deep learning. — Дело в том, что сейчас сильно не хватает специалистов в этой области. На подготовку PhD нужно около пяти лет, а пять лет назад очень немногие молодые ученые занимались этой темой. И сегодня эти немногие чрезвычайно востребованы».

В последние несколько лет «глубокое обучение» помогло добиться прорывов в самых разных областях, от распознавания объектов до машинного перевода, которые специалисты по ИИ никак не могли расколоть.

Не путать с машинным обучением!

Чтобы понять, что такое deep learning, нужно отделить его от других дисциплин в сфере искусственного интеллекта. Одна из них — машинное обучение, когда компьютер извлекает знания через управляемый опыт. Обычно в этом случае человек помогает машине учиться, подбрасывая ей сотни или тысячи учебных примеров и вручную исправляя ошибки.

Хотя машинное обучение доминирует в сфере ИИ, у него есть свои проблемы. Прежде всего, оно требует колоссального времени. Кроме того, пока компьютер полагается на человеческую изобретательность, на умение человека придумывать абстракции, это нельзя назвать в полной мере машинным интеллектом.

«Многие успешные приложения машинного обучения зависят от ручной работы, исследователь сам кодирует информацию о задаче, и обучение основано на его труде, — говорит Джордж Дал, исследователь группы машинного обучения в Университете Торонто. — Когда исследователь занимается deep learning, он старается заставить систему саму спроектировать свои функции, насколько это возможно».

«Глубокое обучение» по большей части не нуждается в человеке-операторе. Оно подразумевает, например, создание масштабных нейросетей, которые позволяют компьютеру учиться и «думать» самостоятельно, не прибегая к прямому человеческому вмешательству.

«То, что компьютер узнает при помощи алгоритмов deep learning — это скорее абстрактные представления концепций, — говорит Бенджио. — Deep learning основано на том, что у людей есть несколько типов представления идей: на нижних уровнях самые простые, на верхних — более сложные абстракции. Представляя информацию этим абстрактным способом, машине легче прийти к своим обобщениям».

Все хотят быть в игре

В 2011 году профессор Стэнфорда Эндрю Энг основал знаменитый проект Google Brain — это нейросеть, которую обучают при помощи алгоритмов deep learning. Она научилась распознавать высокоуровневые представления — например, понятие «кошка», — после просмотра всего лишь видео на YouTube и не имея никакого предварительного представления о том, что такое кошка.

В прошлом году Facebook назначил исследователя Янна Лекуна директором по исследованиям искусственного интеллекта. Это подразделение опирается на deep learning при создании решений для распознавания лиц и предметов на 350 млн фото и видео, что загружают на Facebook каждый день.

Другие примеры deep learning в действии — это сервисы Google Now и Apple Siri. Они многим обязаны Далу, чья работа 2012 года «Context-dependent pre-trained deep neural networks for large-vocabulary speech recognition» стала прорывом в распознавании речи методами deep learning.

«Все сегодняшние проекты по распознаванию речи в крупных компаниях или уже используют нейросети того вида, над которым я работают, или скоро начнут их использовать», — замечает Дал.

Впечатляет то, насколько сильно deep learning может изменить эти области по сравнению с более старыми моделями. По словам исследователей Google, ошибок при распознавании голоса в новой версии Android — после добавления механизмов deep learning — стало на 25% меньше.

Бенджио говорит, что deep learning в ближайшие пару лет, вероятно, кардинально изменит обработку естественного языка. «В этом крайне заинтересованы компании вроде Facebook и Google, поскольку способность понимать смысл слов, которые пишут или говорят люди, очень важна при разработке новых пользовательских интерфейсов, при показе рекламы и формировании персональной ленты новостей, — говорит он. — Если deep learning позволит добиться в этой сфере такого же эффекта, как в распознавании речи и предметов, это будет крайне важное и ценное достижение».

Этика deep learning

Что было уникально в сделке Google и DeepMind — это условие о введении этических правил. По словам людей, знакомых со сделкой, желание Google учредить совет по этике было решающим фактором, благодаря которому DeepMind решила продать свои акции именно ей, а не Facebook. Хотя этические вопросы ИИ звучали почти в каждом фантастическом фильме на эту тему, в реальном мире пока еще мало конкретных моральных правил по работе с искусственным интеллектом.

Бенджио говорит, что это и понятно: сегодняшние даже самые изощренные механизмы deep learning по числу нейронов сопоставимы лишь с мозгом насекомого. «Неуправляемое обучение все еще сталкивается с большими трудностями, и в плане вычислений, и чисто математически», — так он объясняет, почему страхи по поводу самовольного поведения ИИ пока преждевременны.

Джордж Дал согласен: «Компьютеры сейчас куда мощнее, чем 10 лет назад, но нужно еще столько всего добиться в научном плане, прежде чем реализовать амбиции исследователей, работающих в этой сфере».

«Но нельзя сказать, что deep learning не работает в коммерческом смысле: в целом ряде областей оно уже очень полезно людям», — говорит он. И восхищает, насколько это свежая область, непаханое поле. «Сейчас в пределах досягаемости еще много интересных результатов — многие проблемы не так уж сложны, просто взяться за них еще не было времени».

Оригинал поста — www.fastcolabs.com/3026423/why-google-is-investing-in-deep-learning

Подпишитесь на нашу рассылку, чтобы получать на почту еженедельный newsletter с анонсами лучших материалов «Идеономики» и других СМИ и блогов.

Понравилась статья? Подписывайтесь на Дзен-канал Идеономики, чтобы поддержать нас и следить за лучшими материалами
17 февраля 2014    

Пара слов про глубинное обучение, нейронные сети и ИИ

Чем отличается алгоритм глубинного обучения от обычной нейронной сети? По словам Патрика Холла, ведущего исследователя данных в компании SAS, самое очевидное отличие: в нейронной сети, используемой в глубинном обучении, больше скрытых слоев. Эти слои находятся между первым, или входным, и последним, выходным, слоем нейронов. При этом совсем не обязательно связывать все нейроны на разных уровнях между собой.

Разграничение глубинного обучения и искусственного интеллекта не такое однозначное. Например, профессор Вашингтонского университета Педро Домингос соглашается с мнением, что глубинное обучение выступает гипонимом по отношению к термину «машинное обучение», которое в свою очередь является гипонимом по отношению к искусственному интеллекту. Домингос говорит, что на практике области их применения пересекаются достаточно редко.

Однако существует и другое мнение. Хуго Ларочелле, профессор Шербрукского университета, уверен, что данные концепты почти никак не связаны между собой. Хуго замечает, что ИИ фокусируется на цели, а глубинное обучение — на определенной технологии или методологии, необходимой для машинного обучения. Поэтому здесь и далее, говоря о достижениях в области ИИ (таких, как AlphaGo, например) будем иметь в виду, что подобные разработки используют алгоритмы глубинного обучения — но наряду и с другими разработками из области ИИ в целом и машинного обучения в частности [как справедливо отмечает Педро Домингос].

От «глубокой нейронной сети» до глубинного обучения

Глубокие нейронные сети появились достаточно давно, еще в 1980-е. Так почему же глубинное обучение начало активно развиваться только в 21 веке? Репрезентации в нейронной сети создаются в слоях, поэтому было логично предположить, что больше слоев позволит сети лучше обучаться. Но большую роль играет метод обучения сети. Раньше для глубинного обучения использовались те же алгоритмы, что и для обучения искусственных нейронных сетей — метод обратного шифрования. Такой метод мог эффективно обучать только последние слои сети, в результате чего процесс был чрезвычайно длительным, а скрытые слои глубинной нейронной сети, фактически, не «работали».

Только в 2006 году три независимых группы ученых смогли разработать способы преодоления трудностей. Джеффри Хинтон смог провести предобучение сети при помощи машины Больцмана, обучая каждый слой отдельно. Для решения проблем распознавания изображений Яном ЛеКаном было предложено использование сверточной нейронной сети, состоящей из сверточных слоев и слоев подвыборки. Каскадный автокодировщик, разработанный Иошуа Бенджио, также позволил задействовать все слои в глубокой нейронной сети.

https://habr.com/en/company/it-grad/blog/309024/


it_man
September 6, 2016 at 03:06 PM
Глубинное обучение: возможности, перспективы и немного истории

    ИТ-ГРАД corporate blog,
    Machine learning,
    Development for e-commerce

 Глубинное обучение: возможности, перспективы и немного истории

    ИТ-ГРАД corporate blog,
    Machine learning,
    Development for e-commerce

Последние несколько лет словосочетание «глубинное обучение» всплывает в СМИ слишком часто. Различные журналы вроде KDnuggets и DigitalTrends стараются не упустить новости из этой сферы и рассказать о популярных фреймворках и библиотеках.

Даже популярные издания вроде The NY Times и Forbes стремятся регулярно писать о том, чем заняты ученые и разработчики из области deep learning. И интерес к глубинному обучению до сих пор не угасает. Сегодня мы расскажем о том, на что способно глубинное обучение сейчас, и по какому сценарию оно будет развиваться в будущем.



/ фото xdxd_vs_xdxd CC

Пара слов про глубинное обучение, нейронные сети и ИИ

Чем отличается алгоритм глубинного обучения от обычной нейронной сети? По словам Патрика Холла, ведущего исследователя данных в компании SAS, самое очевидное отличие: в нейронной сети, используемой в глубинном обучении, больше скрытых слоев. Эти слои находятся между первым, или входным, и последним, выходным, слоем нейронов. При этом совсем не обязательно связывать все нейроны на разных уровнях между собой.

Разграничение глубинного обучения и искусственного интеллекта не такое однозначное. Например, профессор Вашингтонского университета Педро Домингос соглашается с мнением, что глубинное обучение выступает гипонимом по отношению к термину «машинное обучение», которое в свою очередь является гипонимом по отношению к искусственному интеллекту. Домингос говорит, что на практике области их применения пересекаются достаточно редко.

Однако существует и другое мнение. Хуго Ларочелле, профессор Шербрукского университета, уверен, что данные концепты почти никак не связаны между собой. Хуго замечает, что ИИ фокусируется на цели, а глубинное обучение — на определенной технологии или методологии, необходимой для машинного обучения. Поэтому здесь и далее, говоря о достижениях в области ИИ (таких, как AlphaGo, например) будем иметь в виду, что подобные разработки используют алгоритмы глубинного обучения — но наряду и с другими разработками из области ИИ в целом и машинного обучения в частности [как справедливо отмечает Педро Домингос].

От «глубокой нейронной сети» до глубинного обучения

Глубокие нейронные сети появились достаточно давно, еще в 1980-е. Так почему же глубинное обучение начало активно развиваться только в 21 веке? Репрезентации в нейронной сети создаются в слоях, поэтому было логично предположить, что больше слоев позволит сети лучше обучаться. Но большую роль играет метод обучения сети. Раньше для глубинного обучения использовались те же алгоритмы, что и для обучения искусственных нейронных сетей — метод обратного шифрования. Такой метод мог эффективно обучать только последние слои сети, в результате чего процесс был чрезвычайно длительным, а скрытые слои глубинной нейронной сети, фактически, не «работали».

Только в 2006 году три независимых группы ученых смогли разработать способы преодоления трудностей. Джеффри Хинтон смог провести предобучение сети при помощи машины Больцмана, обучая каждый слой отдельно. Для решения проблем распознавания изображений Яном ЛеКаном было предложено использование сверточной нейронной сети, состоящей из сверточных слоев и слоев подвыборки. Каскадный автокодировщик, разработанный Иошуа Бенджио, также позволил задействовать все слои в глубокой нейронной сети.

Проекты, которые «видят» и «слышат»

Сегодня глубинное обучение используется в совершенно разных сферах, но, пожалуй больше всего примеров использования лежит в области обработки изображений. Функция распознавания лиц существует уже давно, но, как говорится, нет предела совершенству. Разработчики сервиса OpenFace уверены, что проблема еще не решена, ведь точность распознавания можно повысить. И это не просто слова, OpenFace умеет различать даже похожих внешне людей. Подробно о работе программы уже писали в этой статье. Глубинное обучение поможет и при работе с черно-белыми файлами, автоматической колоризацией которых занимается приложение Colornet.

Кроме того, глубокие сети теперь способны распознавать и человеческие эмоции. А вместе с возможностью отследить использование логотипа компании на фотографиях и анализом сопроводительного текста мы получаем мощный маркетинговый инструмент. Похожие сервисы разрабатывает, например, IBM. Инструмент позволяет оценить авторов текстов при поиске блогеров для сотрудничества и рекламы.

Программа NeuralTalk умеет описывать изображения при помощи нескольких предложений. В базу программы загружается набор изображений и 5 предложений, описывающих каждое из них. На стадии обучения алгоритм учится прогнозировать предложения на основе ключевого слова, используя предыдущий контекст. А на стадии прогнозирования нейронная сеть Джордана уже создает предложения, описывающие картинки.

Сегодня существует много приложений, которые могут решать разные задачи в работе с аудио. Например, приложение Magenta, разработанное командой Google, умеет создавать музыку. Но большая часть приложений направлена на распознавание речи. Интернет-сервис Google Voice умеет транскрибировать голосовую почту и имеет функции управления СМС, при этом для обучения глубоких сетей исследователями использовались существующие голосовые сообщения.

Проекты в «разговорном жанре»

По мнению таких ученых, как Ноам Хомски, невозможно научить компьютер полностью понимать речь и вести осознанный диалог, потому что даже механизм человеческой речи изучен не до конца. Попытки научить машины говорить начались еще в 1968 году, когда Терри Виноград создал программу SHRDLU. Она умела распознавать части речи, описывать предметы, отвечать на вопросы, даже обладала небольшой памятью. Но попытки расширить словарный запас машины привели к тому, что стало невозможно контролировать применение правил.

Но сегодня с помощью глубинного обучения Google в лице разработчика Куока Ле шагнул далеко вперед. Его разработки умеют отвечать на письма в Gmail и даже помогают специалистам технической поддержки Google. А программа Cleverbot обучалась на диалогах из 18 900 фильмов. Поэтому она может отвечать на вопросы даже о смысле жизни. Так, бот считает, что смысл жизни заключается в служении добру. Однако ученые вновь столкнулись с тем, что искусственный интеллект лишь имитирует понимание и не имеет представления о реальности. Программа воспринимает речь лишь как сочетание определенных символов.

Обучение машин языку может помочь и в переводе. Google давно занимается улучшением качества перевода в своем сервисе. Но насколько можно приблизить машинный перевод к идеалу, если и человек не всегда может правильно понимать смысл высказывания? Рэй Курцвейл предлагает для решения этой задачи графически представить семантическое значение слов в языке. Процесс достаточно трудоемкий: в специальный каталог Knowledge Graph, созданный в Google, ученые загрузили данные о почти 700 миллионах тем, мест, людей, между которыми было проведено почти миллиард различных связей. Все это направлено на улучшение качества перевода и восприятие искусственным интеллектом языка.

Сама идея о представлении языка графическими и/или математическими методами не нова. Еще в 80-е перед учеными стояла задача представить язык в формате, с которым могла бы работать нейронная сеть. В итоге был предложен вариант представления слов в виде математических векторов, что позволяло точно определить смысловую близость разных слов (например, в векторном пространстве слова «лодка» и «вода» должны быть близки друг к другу). На этих исследованиях и базируются сегодняшние разработки Google, которые современные исследователи называют уже не «векторами отдельных слов», а «векторами идей».

Глубинное обучение и здравоохранение

Сегодня глубинное обучение проникает даже в сферу здравоохранения и помогает следить за состоянием пациентов не хуже врачей. Например, медицинский центр Дармут-Хичкок в США использует специализированный сервис Microsoft ImagineCare, что позволяет врачам уловить едва заметные перемены в состоянии пациентов. Алгоритмы получают данные об изменениях веса, контролируют давление пациентов и могут даже распознавать эмоциональное состояние на основе анализа телефонных разговоров.

Глубинное обучение применяется и в фармацевтике. Сегодня для лечения разных видов рака используется молекулярно-таргетная терапия. Но для создания эффективного и безопасного лекарства необходимо идентифицировать активные молекулы, которые бы воздействовали только на заданную мишень, позволяя избежать побочных эффектов. Поиск таких молекул может выполняться с использованием глубинного обучения (описание проекта, проведенного совместно учеными из университетов Австрии, Бельгии и R&D-отдела компании Johnson&Johnson есть в этом научном материале).

Есть ли у алгоритма интуиция?

Насколько на самом деле «глубоко» глубинное обучение? Ответ на это вопрос могут дать разработчики AlphaGo. Этот алгоритм не умеет говорить, не умеет распознавать эмоции. Но он способен обыграть любого в настольную игру. На первый взгляд тут нет ничего особенного. Уже почти 20 лет назад компьютер, разработанный IBM, впервые обыграл в шахматы человека. Но AlphaGo – совсем другое дело. Настольная игра Го появилась в Древнем Китае. Начало чем-то похоже на шахматы – противники играют на доске в клетку, черные фигуры против белых. Но на этом сходства заканчиваются, потому что фигуры являются небольшими камушками, а цель игры – окружить камушек противника своими.

Но главное отличие в том, что не существует каких-либо заранее известных выигрышных комбинаций, в го невозможно думать на несколько ходов вперед. Машину нельзя запрограммировать на победу, потому что невозможно выстроить победную стратегию заранее. Здесь и вступает в игру глубинное обучение. Вместо программирования определенных ходов, AlphaGo проанализировала сотни тысяч сыгранных партий и сыграла миллион партий сама с собой. Искусственный интеллект может обучаться на практике и выполнять сложные задания, приобретая то, что человек назвал бы «интуитивным пониманием выигрышной стратегии».

Машины не захватят мир

Несмотря на ошеломляющие успехи AlphaGo, искусственный интеллект еще далек от порабощения человеческой расы. Машины научились своеобразному «интуитивному мышлению», обработке огромного массива данных, но, по словам Фей-Фей Ли, руководителя Стэнфордской лаборатории искусственного интеллекта, абстрактное и творческое мышление им недоступно.

Несмотря на определенный прогресс в распознавании изображений, компьютер может перепутать дорожный знак с холодильником. Вместе со своими коллегами Ли составляет базу изображений с их подробным описанием и большим количеством тегов, которые позволят компьютеру получить больше информации о реальных объектах.

По словам Ли, такой подход – обучение на основе фото и подробного его описания – похож на то, как учатся дети, ассоциируя слова с объектами, отношениями и действиями. Конечно, эта аналогия довольно грубая – ребенку для понимания взаимосвязей объектов реального мира не нужно дотошно описывать каждый предмет и его окружение.

Профессор Джош Тененбаум, изучающий когнитивистику в MIT, отмечает, что, алгоритм познания мира и обучения у компьютера сильно отличается от процесса познания у человека; несмотря на свой размер, искусственные нейронные сети не могут сравниться с устройством биологических сетей. Так, способность говорить формируется в человеке очень рано и базируется на визуальном восприятии мира, владении опорно-двигательным аппаратом. Тененбаум уверен, что научить машины полноценному мышлению без подражания человеческой речи и психологической составляющей не представляется возможным.

Фей-Фей Ли согласна с этим мнением. По словам ученой, современный уровень работы с искусственным интеллектом не позволит приблизить его к человеческому – как минимум за счет наличия у людей эмоционального и социального интеллекта. Поэтому захват мира машинами стоит отложить как минимум еще на пару десятилетий.

P.S. Дополнительное чтение: Наш IaaS-дайджест — 30 материалов о применимости облачных технологий.

Tags:

        ит-град
        ИИ
        глубокое обучение
        машинное обучение
https://lab.bit.ua/2017/12/likbez-chto-takoe-deep-learning/

Deep learning («глубинное» или «глубокое» обучение) — это класс алгоритмов машинного обучения. Он использует многослойную систему фильтров для иерархического извлечения полезных признаков. Это значит, что каждый следующий слой на входе получает выходные данные предыдущего слоя. Признаки более высокого уровня — производные от признаков более низкого уровня.

Большинство алгоритмов глубокого обучения — это различные виды нейронных сетей (нейросетей). Искусственные нейросети, как и биологические, состоят из нейронов.

Когда появились нейросети и термин «deep learning»?

В 1965 году  нейросети описали в виде математической модели украинские ученые Ивахненко и Лапа. Глубокие нейронные сети появились в 1980-е. , а термин «deep learning» — в 2000-х.
Нейросети научили распознавать опухоли на рентгеновских снимках, играть в го и шахматы, создавать музыку и тексты. И это — не предел.

https://habr.com/en/company/microsoft/blog/314934/
Transfer learning и тонкая настройка глубоких сверточных нейросетей

На практике обучение целых ГСНС обычно не производится с нуля с произвольной инициализацией. Причина состоит в том, что обычно не удается найти набор данных достаточного размера, требуемого для сети нужной глубины. Вместо этого чаще всего происходит предварительное обучение ГСНС на очень крупном наборе данных, а затем использование весов обученной ГСНС либо в качестве инициализации, либо в качестве выделения отличительных признаков для определенной задачи.


https://proglib.io/p/deep-learning/

хотите знать, как работает Deep Learning? Вот быстрый гайд
От
Montgomeri -
14.12.2017
4
17899

Глубокое обучение (оно же Deep Learning) – самый популярный тип машинного обучения. Читайте в статье о тонкостях работы с ним.

Deep Learning

Искусственный интеллект (ИИ) и машинное обучение (ML) – это две самые горячо обсуждаемые темы. Термин «искусственный интеллект» бросается небрежно каждый день. Вы слышите, как начинающие разработчики говорят, что хотят освоить ИИ, но часто они даже не понимают, что это такое. После того, как вы прочтете эту статью, вы поймете основы ИИ и ML. Что еще более важно, вы поймете, как работает Deep Learning – самый популярный тип.
Бэкграунд

Первым шагом к пониманию того, как работает глубокое обучение, является понимание различий между важными терминами.
Искусственный интеллект против машинного обучения

Искусственный интеллект – это репликация человеческого интеллекта в компьютерах.

Когда впервые началось изучение ИИ, исследователи пытались воспроизвести человеческий интеллект для конкретных задач: например, играть в игру.

Они ввели огромное количество правил, которым должен был следовать компьютер. Ему предоставлялся конкретный список возможных действий, и компьютер принимал решения на основе этих правил.
Machine Learning относится к способности машины учиться с использованием больших наборов данных вместо жестко закодированных правил.

ML позволяет компьютерам самостоятельно учиться. Этот тип обучения использует преимущества вычислительной мощности современных машин, которые могут легко обрабатывать большие наборы данных.
Управляемое обучение против неуправляемого

Управляемое обучение включает в себя использование помеченных наборов данных, которые содержат входы и ожидаемые результаты.

Когда вы тренируете ИИ с помощью управляемого обучения, вы даете ему ввод и сообщаете ожидаемый результат. Если результат, генерируемый искусственным интеллектом, ошибочен, он скорректирует свои вычисления. Этот процесс выполняется итеративно для набора данных, пока ИИ не перестанет совершать ошибки.

Примером управляемого обучения является предсказание погоды. ИИ учится прогнозировать погоду с использованием исторических данных. Данные обучения имеют входы (давление, влажность, скорость ветра) и выходы – результат (температура).

Неуправляемое обучение – это задача машинного обучения с использованием наборов данных, вот только без готовых ответов. Выходов просто нет.

Когда вы тренируете ИИ с использованием неуправляемого обучения, вы позволяете ему делать логические классификации данных.

Примером неконтролируемого обучения является ИИ, предсказывающий пользовательское поведение для веб-сайта электронной коммерции. Он не будет изучать, используя помеченный набор данных входов и выходов. Вместо этого он создаст свою собственную классификацию данных и определит, какие пользователи чаще всего покупают те или иные продукты.
Как же работает Deep Learning?

Теперь вы готовы понять, что такое Deep Learning, и как оно работает.

Глубокое обучение – это метод ML, который позволяет обучать ИИ для прогнозирования выходов с учетом набора входных данных. Для этих целей можно использовать как управляемое, так и неуправлемое обучение.

Мы поймем, как работает Deep Learning, если создадим гипотетическую услугу оценки стоимости билета на самолет. Мы будем обучать его с помощью управляемого метода обучения. Мы хотим, чтобы наш оценщик прайсов рассчитывал стоимость, используя следующие входы (исключаем обратные билеты для простоты):

    Начальный аэропорт.
    Аэропорт назначения.
    Дата отбытия.
    Авиакомпания.

Нейронные сети

Теперь давайте заглянем в мозг нашего ИИ.

Как и у животных, в мозге задействованы нейроны. Они представлены кругами. Такие нейроны являются взаимосвязанными:

Deep Learning

Нейроны сгруппированы в три разных типа слоев:

    Входной слой.
    Скрытый(е) слой(и).
    Выходной слой.

Входной слой принимает изначально предоставленные данные. В нашем случае здесь есть четыре нейрона: начальный аэропорт, аэропорт назначения, дата отбытия и авиакомпания. Входной слой передает входы в первый скрытый слой.

Скрытые слои выполняют математические вычисления на наших входах. Одной из проблем при создании нейронных сетей является определение количества скрытых слоев, а также количества нейронов для каждого такого слоя. «Глубина» в Deep Learning относится к наличию более чем одного скрытого слоя.

Выходной слой возвращает результат (выходные данные). В нашем случае это прогноз стоимости билета.

Глубокое обучение

Итак, как он прогнозирует цены?

Именно здесь начинается волшебство глубокого обучения. Каждое соединение между нейронами связано с весом. Этот вес определяет важность входного значения. Исходный вес задается случайным образом.

При прогнозировании цены на авиабилет дата вылета является одним из более тяжелых (значимых) факторов. Следовательно, соединения нейронов отправления будут иметь большой вес (значение).

Глубокое обучение

Каждый нейрон имеет функцию активации. Эти функции трудно понять без математических рассуждений. Проще говоря, одной из целей является «стандартизация» выхода из нейрона. Когда набор входных данных прошел все слои нейронной сети, он возвращает выходные данные через соответствующий слой.

Ничего сложного, не так ли?
Обучение нейронной сети

Обучение ИИ – это самая сложная часть Deep Learning. Почему?

    Вам нужен большой набор данных.
    Вам нужно большое количество вычислительной мощности.

Для оценки стоимости авиабилета нужно найти исторические данные о ценах на билеты. Из-за большого количества возможных аэропортов и комбинаций даты вылета потребуется огромный список цен.

Чтобы обучить ИИ, необходимо предоставить ему данные из нашего набора и сравнить его выходы с выходами из набора данных. Поскольку ИИ еще не обучен, его выходы будут ошибочными. Как только будет пройден весь набор данных, мы сможем создать функцию, которая показывает, как сильно отличаются результаты ИИ от результатов реальных. Эта функция называется функцией затрат или стоимости.

Мы хотим (и это идеальный вариант), чтобы функция стоимости была равна нулю: именно тогда выходы нашего ИИ совпадут с выходами набора данных.
Как уменьшить функцию стоимости?

Мы изменяем вес. Это можно было бы сделать в случайном порядке, пока наша функция стоимости не снизится максимально, но это не очень эффективный способ.

Вместо этого мы будем использовать метод градиентный спуск.

Градиентный спуск – это метод, который позволяет найти минимум функции. В нашем случае это функция стоимости. Он работает, немного изменяя вес после каждой итерации для набора данных. Вычисляя производную (или градиент) функции стоимости при определенном наборе веса, мы можем видеть, в каком направлении находится минимум:

градиентный спуск

Чтобы свести к минимуму функцию стоимости, вам придется многократно перебирать данные. Вот почему нужна большая вычислительная мощность. Обновление веса с помощью градиентного спуска выполняется автоматически. Именно это является волшебством Deep Learning!

После того как мы подготовили нашу оценку стоимости авиабилетов, можем использовать ее для прогнозирования будущих цен.
Больше информации

Существует много других типов нейронных сетей: сверточные, предназначенные для компьютерного «зрения» (распознавание изображений), и рекуррентные – для распознавания текста или речи.

Если вы хотите изучить технический аспект Deep Learning, можно пройти онлайн-курс. В настоящее время одним из лучших курсов для глубокого обучения является набор уроков от Andrew Ng. Если вы не заинтересованы в получении сертификата, вам не нужно платить за этот курс. Подробнее о нем читайте в нашей статье.

Также посмотрите подборку материалов по нейронным сетям и не забудьте ознакомиться с введением в глубокое обучение.
Подытожим

    Глубокое обучение использует нейронную сеть в качестве имитации животного интеллекта.
    Существует три типа слоев нейронов в нейронной сети: входной слой, скрытый слой (слои) и выходной слой.
    Соединения между нейронами связаны с весом, который диктует важность входного значения.
    Нейроны применяют функцию активации данных для «стандартизации» выхода.
    Для обучения нейронной сети необходим большой набор данных и приличная вычислительная мощность.
    Итерируя через набор данных и сравнивая выходы, вы получите функцию затрат, указывающую, насколько ИИ далек от реального положения вещей.
    После каждой итерации через набор данных вес между нейронами изменяется с помощью градиентного спуска, что позволяет найти минимум функции стоимости.

https://javarush.ru/groups/posts/309-deep-learning...chaynikov-obhhjasnenie-na-prim

Эллеонора Керри
41 уровень

    17 ноября 2017 17:45
    8146просмотров
    1комментарий

Deep Learning, искусственный интеллект и машинное обучение для чайников: объяснение на примере
Пост из группы Random
1018448 участников
Хотите сверкнуть интеллектом в компании коллег или поразить друзей в разговоре на актуальные технические темы? Упомяните в разговоре «Искусственный интеллект» или «Машинное обучение» — и дело в шляпе.
А это ссылка на оригинал...
https://medium.freecodecamp.org/want-to-know-how-d...uide-for-everyone-1aedeca88076

https://javarush.ru/groups/posts/254-top-5-bibliotek-mashinnogo-obuchenija-dlja-java

Это перспективно?
Долгая зима развития искусственного интеллекта завершилась. Теперь машинное обучение — один из самых популярных навыков в технологиях, и специалисты, которые разбираются в этой теме — нарасхват. Пока что ни один язык не стал абсолютным лидером в сфере машинного обучения, но Java — явно в группе фаворитов. Так что если вам интересна наука, вы хотите не просто кодить, а заниматься исследованиями, предлагаем вам взглянуть на пятёрку лучших библиотек Java для программирования машинного обучения.
 
Первым это понял Васин Антон Сергеевич молодой, талантливый врач, программист
https://kiberis.ru/?online_doctor=6
Гомеопат, терапевт
Стаж 5 лет.
Прошел повышение квалификации по терапии в 2015 году. Закончил лондонский факультет по гомеопатии в 2014 году. Создатель искусственного медицинского интеллекта Киберис.
Записаться на онлайн приём Гомеопата
Записаться на онлайн приём Гомеопата
Короткая консультация
Повторные приёмы, острые случаи и ответы на вопросы.
до 20 минут за 700 ք
Полноценный приём
Подробный анализ проблемы и поиск оптимального решения.
до 60 минут за 1800 ք
Подробная информация о специалисте
Образование:

    Рязанский медицинский университет, 2014 год
    Лондонский факультет гомеопатии в Москве, 2014 год
    Интернатура по специальности Терапия, 2015 год

Проблемы, на которых специализируется:

    Частые простуды
    Нарушения иммунитета
    Аденоиды
    Хронический тонзиллит (частые ангины)
    Хронический ринит (насморк)
    Органические последствия психологических травм
    Спазмы и другие симптомы на нервной почве
    Нейроциркуляторная дистония (ВСД, НЦД)
    Экзема и другие хронические высыпания
    Поллиноз (сенная лихорадка)

https://www.cs.waikato.ac.nz/ml/weka/index.html

Weka 3: Data Mining Software in Java