Connect with us

Статьи

Секрет сильного искусственного интеллекта следует искать в мозге человека

Чем дальше развиваются сети глубокого обучения, тем более понятными становятся ограничения в их развитии. Со-основатель исследовательской компании Numenta Джефф Хокинс рассказал о последних открытиях команды, которые не только перевернули представления ученых о мозге, но и являются ключевыми для создания искусственного интеллекта общего назначения.

Анна Гуляева

Опубликовано

/

     
     

Алгоритмы искусственного интеллекта, такие как глубокое обучение и сверточные нейронные сети, значительно помогли в распознавании изображений, создании беспилотных автомобилей и решении других сложных задач. Многочисленные AI-компании пытаются оседлать эту волну инвестиций и приобретения стартапов.

Будущее карт: автомобили, AR и угроза приватности

Но ведущие исследователи понимают, что все не так гладко. Несмотря на впечатляющий прогресс, существующие методы искусственного интеллекта ограничены. Например, сети глубокого обучения обычно требуют миллионов обучающих примеров для корректной работы, в то время как человек может изучить что-то новое гораздо проще. Это ограничивает применение сетей глубокого обучения. Хотя их средняя точность высока, они могут допускать ужасные ошибки. Например, небольшое изменение изображения может привести к тому, что ИИ-система примет зубную щетку за бейсбольную биту. В некоторых случаях это может привести к катастрофе, травмам и смертям.

Из-за этих и других ограничений лидеры области считают, что нужен другой подход. Джофф Хинтон, один из самых выдающихся AI-специалистов, недавно сказал, что нам нужно начать все заново, так как он “очень подозрительно” относится к существующим методам: “Я считаю, что нам нужно всё выбросить и начать с начала”. Франсуа Шолле, ведущий практик сетей глубокого обучения, сказал: “Вы не можете достичь сильного интеллекта при помощи масштабирования существующих техник”.

Шолле предполагает, что глубокое обучение по своей сути является ограниченным, в отличие от человеческого мышления. В самом деле, человеческий мозг удивительно гибок. Люди не только водят автомобили, мы строим небоскребы, управляем фермами и программируем компьютеры. Даже наша способность поднимать простые объекты, например, кружки с кофе, и манипулировать ими сильно превосходит способности любого искусственного интеллекта.

Каждый из нас имеет сотни сложных навыков, которые мы смешиваем и используем. Системы глубокого обучения хорошо работают только на небольшом наборе задач, и они могут делать одну вещь за раз. Их нужно переобучать для каждого нового задания. Люди — это обучающиеся организмы общего применения, а ИИ-системы — нет. Превзойти существующие ограничения ИИ можно, приспособив системы под более общие цели.

Естественная глупость опаснее искусственного интеллекта

Недавно ученые, работающие с искусственным интеллектом, обратились за вдохновением к мозгу. Демис Хассибис, сооснователь DeepMind, сказал: “Человеческий мозг — это единственное существующее доказательство того, что общий тип интеллекта, который мы пытаемся создать, возможен, поэтому мы считаем, что стоит попытаться понять, как достичь этих возможностей”.

Я согласен. Я изучаю мозг более тридцати лет. В 2004 я написал книгу On Intelligence, которая предполагала, что изучение мозга пригодится для создания ИИ. И в 2005 я стал сооснователем Numenta, компании по реверсинжинирингу коры головного мозга, самой большой его части, которая чаще всего ассоциируется с интеллектом. Мы хотим понять, как клетки в голове работают вместе, создавая восприятие и поведение.

Существуют некоторые сходства между работой мозга и текущих методик искусственного интеллекта, значит, ИИ сейчас находится на верном пути. Но существуют и значительные различия. Мозг не только имеет больше способностей, но и его физическая структура более сложна, чем искусственные нейронные сети.

Исследования Numenta раскрыли несколько важных принципов, которые использует мозг и которые придется освоить искусственному интеллекту. Например, у каждого нейрона в мозге есть тысячи синапсов (связей между нейронами). Предназначение многих из синапсов остается загадкой. Мы открыли, что нейроны используют большую часть синапсов, чтобы делать прогнозы. Эти предсказания появляются в клетках и играют решающую роль в наших ожиданиях от будущего. Искусственные нейроны не имеют этой функции и не могут делать такие прогнозы. Мы также обнаружили, почему обучение мозга достигается по большей части при помощи формирования новых синапсов. Это более мощная форма обучения, чем изменение существующих связей, которое происходит в глубоком обучении. Это объясняет, почему мы узнаем новые вещи быстрее.

Хотя у нас есть и другие открытия, я хочу поделиться последним и самым важным из них. Мы изучали, как мы распознаем объекты при прикосновении. Мы обнаружили новое качество коры мозга, которое связано не только с осязанием, но и со зрением и всеми остальными функциями коры. Иногда я называю это свойство “пропавшим ингредиентом” или “секретом сильного ИИ”. Мы недавно опубликовали статью об этом открытии, здесь я приведу его вкратце.

Посмотрите на эту картинку. Очевидно, это кружка. Но, конечно, на самом деле это не кружка, а набор линий на плоской поверхности. Нам сложно увидеть эти линии в плоскости, а не как трехмерный объект. Распространенное убеждение среди нейробиологов гласит, что кора воспринимает изображение от глаз и шаг за шагом она выделяет всё больше свойств, пока не сможет распознать предмет.

Так работают сети глубокого обучения. Этот процесс называется распознаванием паттернов, и нейронные сети хороши в этом. После обучения на многих изображениях они могут взять новую картинку и сказать, что на ней показано. Но они не могут понять, какой объект скрывается за ярлыком. Напротив, когда вы видите изображение, вы сразу воспринимаете его трехмерную форму. Вы можете представить, как предмет выглядит с разных углов и каков он на ощупь, и понять, что он может содержать жидкость. Сеть глубокого обучения хорошо определяет изображение, не понимая, что на нем находится, а кора головного мозга понимает структуру объекта и его поведение.

До недавнего времени никто не понимал, как кора головного мозга трансформирует плоское изображение в ментальную репрезентацию настоящего объекта. Мы поняли, как это происходит. Мы обнаружили, что все входные данные для коры связываются с сигналом, представляющим “локацию”. Когда вы смотрите на изображение кружки, для каждой части картинки и каждого отрезка линии назначается локация, связанная с реальной трехмерной кружкой. Похожим образом компьютеры создают CAD-модели объектов.

Скоро мы перестанем программировать компьютеры. Мы будем обучать их как собак.

Наша теория объясняет, почему вы воспринимаете кружку в трех измерениях и почему вы можете представить, как бы она выглядела с разных сторон. Это также объясняет, почему ваше восприятие кружки является стабильным, хотя ваш взгляд перемещается и останавливается на разных частях изображения. Если для входных данных назначены правильные локации кружки, то неважно, как вы смотрите на изображение.

Мы изучаем применение этого открытия и считаем, что оно может раскрыть многие загадки работы мозга. Хотя мы вывели это свойство, изучая осязание и зрение, нейронные структуры, которые определяют локации для сигналов существуют в каждой части коры. Можно предположить, что обработка любых данных в коре головного мозга связана с локациями, хотя эти локации не всегда соотносятся с физическими объектами в мире. Это значит, что мы управляем абстрактными концепциями с помощью тех же механизмов, что используем для физических объектов. Конечно, управление концепциями является ключевой функцией интеллекта общей направленности.

Уже десятилетиями ведутся споры о том, насколько ИИ должен имитировать мозг. Недавний успех глубокого обучения, которое почти не связано с мозгом, укрепил аргумент о том, что ИИ может развиваться без нейробиологии. Но этот успех показал пределы глубокого обучения и сделал очевидной потребность в новых подходах. Мозг — это очевидное место для поиска новых идей. Как недавно сказал Джефф Безос: “Люди фундаментально отличаются от того, что мы сегодня делаем с машинным обучением и машинным интеллектом”.

Когда мы работаем над созданием искусственного интеллекта общего назначения, мы не должны имитировать всё, что делает мозг. Но некоторые принципы нельзя игнорировать, они лежат в основе любой системы, которая служит для интеллекта общего назначения. Мы уже открыли несколько принципов в ходе своих исследований, и я считаю, что наше последнее открытие окажется самым важным. Оно полностью меняет наше представление об обработке сенсорных сигналов в мозге и о том, как мозг представляет знание о мире.

Я надеюсь, что когда больше людей, работающих с ИИ, осознает пределы существующих методов, они поймут, что создание сильного искусственного интеллекта будет идти от нейробиологии. Интеграция этих открытий в ИИ может занять несколько лет, но мне сейчас абсолютно понятно, как это сделать.

 

Комментарии
Если вы нашли опечатку - выделите ее и нажмите Ctrl + Enter! Для связи с нами вы можете использовать info@apptractor.ru.
Advertisement
Click to comment

You must be logged in to post a comment Login

Leave a Reply

Разработка

Karma получает $12 млн на маркетплейс по продаже излишков продуктов

По данным Продовольственной и сельскохозяйственной организации Объединенных Наций, около трети еды, производимой каждый год – 1.3 миллиарда тонн – либо теряется, либо выкидывается. Это эквивалентно потере 1 триллиона долларов.

AppTractor

Опубликовано

/

Автор:

На этом фоне стартап Karma, маркетплейс, который хочет уменьшить потери еды, собрал 12 миллионов долларов в Серии А. В ней приняли участие шведская инвестиционная фирма Kinnevik, Bessemer Venture Partners, Electrolux, E.ventures и другие. Общие инвестиции в Karma достигли 18 миллионов долларов.

Пока Karma работает только в Швеции и Лондоне, но с получением новых денег планирует расширение на новые рынки –  сначала в Европе, а потом и в США.

Само приложение Karma работает практически так же, как и любые другие маркетплейсы по заказу продуктов. Вы создаете учетную запись и видите предложения вокруг. Суть в том, что это все избыточные товары, которые готовятся выкинуть, так что какой-либо постоянный выбор еды через Karma вы вряд ли получите. С другой стороны, такую еду готовы отдавать буквально за полцены.

Стартап был основан в Стокгольме в 2015 году, в ранние годы Karma предлагала другой сервис – это была скорее программа скидок, немного напоминающая Groupon. Но компания сделала пивот и изменила направление своей деятельности.

«Нам стало ясно, что разные предложения путают пользователей Karma, и мы решили сузиться до нескольких или даже одной категории», – рассказал VentureBeat генеральный директор Karma Хьялмар Стальберг Нордегрен. «Одной из наиболее популярных категорий в нашем раннем приложении была еда, и, рассмотрев то, что на самом деле продают, мы поняли, что на самом деле это излишки, которые владельцы ресторанов добавляли на нашу платформу».

Группа основателей обратилась к мировой проблеме пищевых отходов, и это стало началом Karma в ее нынешнем виде. Это еще один классический пример своего рода «случайной» эволюции стартапа на ранней стадии, основанной на действиях пользователей – посмотреть, как пользователи на самом деле используют платформу и развивать ее на основании этого.

Karma является частью мировой тенденции, когда компании строят бизнес вокруг концепции «сокращения отходов». В прошлом году лондонский Winnow получил 7.4 миллиона долларов на измерение пищевых отходов, Full Harvest из Сан-Франциско собрал 2 миллиона для продажи уродливых фруктов, а на прошлой неделе лондонская Unmade подняла 4 миллиона долларов на платформу для производства одежды по требованию, которая позволяет брендам производить только те предметы одежды, которые фактически продаются.

«Karma превращает выкидывание продуктов в продажи – в этом достаточно много смысла», – отметил Кент Беннетт из Bessemer Venture Partners. «Но помимо самих продуктов, мы полагаем, что связь между клиентами и их любимыми местными продавцами может иметь огромную долгосрочную ценность».

Сейчас у Karma более 1,500 заведений, таких как рестораны, гостиницы, продуктовые магазины, кафе и пекарни, которые продают свои избытки примерно 350,000 пользователям приложения. Это действительно беспроигрышная ситуация: розничные продавцы могут монетизировать продукты питания, которые в противном случае окажутся на свалке, в то время как потребители могут сэкономить большие деньги. И именно эта бизнес-модель может помочь платформе набрать обороты: чтобы сделать приложение более привлекательным для продавцов, оно действительно должно быть коммерчески выгодным, а не просить их делать пожертвования.

Комментарии
Продолжить чтение

Статьи

Сможет ли HQ Trivia выйти из пике при помощи Apple TV

На фоне падения позиций HQ Trivia, разработчики выпускают новую версию приложения для Apple TV. Все, что касается игры, осталось прежним – те же вопросы, в то же время, одни и те же правила, за исключением того, что вы играете с пультом Apple TV, а не со смартфоном.

AppTractor

Опубликовано

/

Автор:

Но будет ли этого достаточно, чтобы HQ Trivia снова вернулась к росту, спрашивает TechCrunch? Ведь, по данным App Annie,  игра спустилась с 1 места в американских «Викторинах» в начале лета на 10, с 44 в «Играх» на 196, со 151 позиции в общем топе на 585. Тоже самое происходит и на Android. Вторит этому и Sensor Tower: «Установки падают. В прошлом месяце их было около 560 тысяч, в то время как в пике в феврале игру установило более 2 миллионов человек».

Вопрос в том, является ли это всего лишь летним затишьем, или же HQ Trivia вошла в штопор? На самом деле, если посмотреть ретроспективно на весь год, то можно увидеть, что HQ Trivia падала практически все время с момента достижения пика в начале зимы. В какой-то момент игра поднялась до 3 позиции в топе игр и до 6 в общем рейтинге приложении, но потом практически все время ее рейтинги падали.

CEO Intermedia Labs Рус Юсупов отметил, что, на самом деле, ничего страшного не происходит и все под контролем. «Игры это бизнес на хитах и невозможно экспоненциально расти все время. HQ отлично стартовала, и до сих пор в викторине участвуют миллионы игроков. Мы разрабатываем новые форматы и один из них очень интересный и прекрасно дополнит игру. Спасибо, что играете!

Между тем HQ грозят и новые клоны. После первоначальной волны китайских поделок, сейчас за мобильные викторины взялись телевизионные студии. На этой неделе Fox представил игру FN Genius, которая выглядит и работает почти точно так же, как HQ Trivia. Trivia Crack, давнишний конкурент HQ, в котором пользователи играют асинхронно, тоже падал в начале этого года, но переломил тренд и снова начал расти. Еще есть и новые игры на деньги, такие как ProveIt, в которых можно делать реальные ставки на свою победу. Все вместе они отбирают аудиторию у HQ Trivia.

HQ отвечает тематическими играми, знаменитостями, огромными джектпотами (недавно разыгрывали $400,000) и новыми функциями. С ней изнутри борются читеры и люди, играющие с нескольких устройств, которые, в целом, создают у нормальных игроков ощущение, что выиграть невозможно. Плюс сами «живые» трансляции не всегда уместны и возможны для всех игроков. Вероятно, HQ Trivia нужно второе приложение с новыми виральными механиками для того, чтобы оживить свою аудиторию и оправдать полученные в марте 15 миллионов долларов.

 

Комментарии
Продолжить чтение

Разработка

Интересные материалы для разработчика мобильных приложений #225 (6-12 августа)

В нашем новом дайджесте руководство по созданию PWA, запуск Android 9 Pie, раздражения, недовольства и увлечения пользователей, барьеры интерфейсов и турецкого рынка.

AppTractor

Опубликовано

/

Автор:

PWA — это просто

Продолжаем знакомство с Progressive Web Applications. После теоретической прошлой части самое время перейти к практике.

iOS

Android

Разработка

Аналитика, маркетинг и монетизация

AI, Устройства, IoT

 Вакансии

Комментарии
Продолжить чтение

Вовлечение пользователей

Нужно себя заставить: драйверы и барьеры в интерфейсах

Люди не роботы — у каждого яркая индивидуальность и богатый внутренний мир. Но в базовой комплектации у нас более-менее одинаковые эргономические и когнитивные способности. Разбираемся в управлении мозгами вместе с Русланом Лобачевым, директором по проектированию в Tsentsiper.

Redmadrobot

Опубликовано

/

Автор:

Эмоции — простейшие сигналы, которые подменяют энергозатратные рассуждения. Эдакий способ самоконтроля и самомотивации и, одновременно, награда за удовлетворение потребностей. Чем важнее потребность, тем сильнее эмоция. И чем выше барьер, тем сильнее должен быть драйвер, который заставит его преодолеть.

Описывая пользовательский сценарий, важно понимать:

  • что станет триггером;
  • в какой момент человек поймет, что вот-вот получит вознаграждение;
  • что он должен сделать, чтобы его получить;
  • каким будет вознаграждение.

Использовать драйверы

Вознаграждение

Стремление к выгоде — главное, что заставляет человека встать с дивана.

Вознаграждение в любом его виде: кэшбек, лайки или новые доспехи в игре, самый простой и рациональный способ управления людьми. Хотите, чтобы человек зарегистрировался в приложении? Пообещайте бонус.

Накал страстей может стать еще острей, если вознаграждение не гарантировано или уплывает из рук. Хитро расставленные «ограниченные предложения» (даже если за этот гостиничный номер с вами никто не борется) заставляют людей действовать, не раздумывая.

Итак, человек хочет пресс кубиками (пример вымышленный и никакого отношения к редакции роботов не имеющий), чтоб безудержно им хвастаться.

Чем сложнее действие, тем щедрее награда.

Какое-то время назад я сформулировал для себя, что любая деятельность, если она не настолько проста, чтобы исчезнуть совсем, стремится стать игрой. Если не получается деятельность устранить, ее можно попытаться превратить в игру.

Люди любят умеренно сложные задачи — и вызов есть, но и справиться с ним не то чтобы невозможно.

Если нужно, чтобы пользователь оставил максимум информации о себе или написал отзыв — продумайте бонус, сообразный затрате времени и сил.

Путь к вознаграждению долог и тернист? Покажите прогресс: к большому делу всегда легче подойти, если оно разбито на этапы. Это те самые «Шаг 1 из 4» и «Ваш профиль заполнен на 67%» — ведь близость финиша открывает второе дыхание. И не забудьте о бонусах в конце пути: «Вы заполнили профиль на 100%. Таких, как вы, всего 159 человек в мире. Получите лавровый венок на аватар!».

Тот парень с кубиками — он уже начал заниматься, но приложение может составить для него индивидуальный план. Нужно лишь заполнить несколько полей: имя, пол, возраст, рост, желаемый вес, регион, тип ежедневной активности.

Привычка

Большую часть действий люди выполняют не задумываясь, по привычке. Мышление — очень энергозатратная штука, поэтому между лучшим и привычным мозг всегда выберет второе, потому что оно проверенно безопасное. Привычка — ключ к выбору промежуточных вариантов: «пакет Medium», «стандартный размер», «средней прожарки». Здорово, что есть возможность выбирать, но не прямо сейчас.

У зарядки должен быть триггер — в одно и то же время приложение пришлет уведомление. Зарядка может быть короткой или не очень и запускается одной кнопкой. И, конечно, после выполнения нескольких тренировок приложение выдаст ачивку и предложит ею похвастаться.

Принадлежность

Люди смотрят на поведение себе подобных и делают так же. Особенно, когда не уверены в выборе. Дайте им возможность видеть действия других людей и транслировать свой выбор, например, в соцсети, чтобы чувствовать себя частью группы единомышленников.

Когда упражнения становятся рутиной, мотивация ожидаемо снижается. Но есть всемирное комьюнити любителей упражнений! И среди его участников известные спортсмены и актеры, коллеги и друзья. Приятно находиться среди красивых.

Кстати, в Apple, Google и Facebook давно поняли определяющую роль привычки в жизни человека. И сегодня занимаются ее этическим измерением. Вроде бы пользователи Facebook довольны возможностью бесконечно залипать на прикольный контент, подбрасываемый алгоритмической лентой. Но здесь кроется противоречие с интересами общества: огромное количество времени, внимания и энергии люди тратят впустую. Что с этим делать? Рано или поздно придется решать — корпорациям или государствам.

Преодолеть барьеры

Лень

Лень бережет человеческий энтузиазм для чего-то поинтереснее. Двигатель прогресса ведет к новым, еще более удобным сервисам, и помогает отсеивать то, что требует слишком много сил. Сложные, требующие долгого изучения и настройки интерфейсы — не для ленивых и, значит, не для людей.

Сохраняйте, не спрашивая. Храните данные, пока пользователь сам не решит их удалить. И не забудьте предусмотреть возможность отмены любого действия, включая удаление.

Google Docs и заметки по умолчанию сохраняют любые изменения. Яндекс.Музыка открывает альбом, который вы слушали в последний раз. Telegram помнит незаконченные сообщения.

Если интернет вдруг пропал, Facebook предлагает написать комментарий, который опубликует, когда появится сеть.

Через пару месяцев человек подустал. Пора напомнить о днях былой славы, показав его же лучшие результаты. А как же кубики, а желаемым вес, который он указал вначале? Кстати, в его районе теперь уже две тысячи тренирующихся. И половина из них бегают, ведь в приложении появился новый трекинг. Может быть, сменить активность?

Мы привыкли говорить об удобстве интерфейсов, но есть и обратная сторона коммерческих проектов — расходы. Возможный вариант сокращения расходов — переложить работу с компании на потребителя. Но сделать это так, чтобы у него остались приятные впечатления. Ведь лень — не объективное физическое явление, а психическое. Если задача подана классно, человек может и не заметить, как потратит в два раза больше энергии, да еще и порадуется. Например, к терминалу в Mcdonalds хочется подойти гораздо больше, чем к кассиру: нажимаешь на большом телефонообразном экране яркие кнопки и через пару минут получаешь заказ. Ты поработал за кассира, но разве заметил это?

Физиология

У большинства людей две руки, десять пальцев, два глаза. Наши пальцы не могут быть тонкими, как вязальные спицы и такими же длинными. В руке удобно держать только один предмет. Читать на ходу неудобно, да и не особенно хочется.

В мобильных приложениях ошибки проектирования редко приводят к трагическим последствиям для пользователя, зато для продукта — почти всегда. Неудобный продукт для пользователя все равно что не существует. В этом списке UX-бедолаг: приложения с непривычными паттернами навигации, неочевидной информационной иерархией, громоздким онбордингом, отсутствием важных функций, вроде поиска, слишком тяжелым контентом, несогласованность с шаблонами Apple и Android и т.д.

Адаптируйте. Да, у людей довольно толстые и неуклюжие пальцы по сравнению с изящными кнопочками на экранах мобильников. Поэтому на клавиатурах iOS площадь нажатия динамически подстраивается, чтобы было легче набрать правильную букву. И она на всякий случай, подсвечивает символы, которые вы нажимаете. Другой пример — клавиатуры с большими кнопками для набора цифр.

Зарядка — это когда человек большую часть отведенного времени проводит в горизонтальном положении, вспотевший, с учащенным пульсом, иногда злой. «Еще один круг? О не-ет!» Нужна одна большая кнопка «Старт / Стоп» и обратный отсчет крупными цифрами, потому что осталось всего «Три, две, одна… Вы закончили!»

Примитивность сознания

Вычислительные способности человека весьма ограничены — большинство способны сознательно контролировать только одну операцию. Мы можем решать задачи только последовательно — выполняя один простой шаг за другим. Это очень серьезный барьер и причина многих ошибок пользователей при взаимодействии с интерфейсами.

Идеальный интерфейс — невидимый интерфейс. Человек не хочет тыкать в кнопки — он хочет получить результат. И чтобы всю работу сделал компьютер — сам и прямо сейчас.

Не усложняйте путь к цели: одна кнопка — одно действие — один результат. Взяли в руки смартфон — разблокировали его с Face ID. Скачали приложение в App Store, привязали карту — и раз в месяц фиксированная сумма будет списываться с нее сама. «Выбрали-нажали-получили» — что может быть проще?

Решайте главную задачу. Когда приложение умеет слишком много, оно приводит людей в ступор. Тем более, что человек все равно проигнорирует все, что не помогает ему решить задачу сейчас. И гораздо проще запомнить: это приложение заказывает еду, другое сравнивает скидки в ближайших супермаркетах, а третье показывает дорожные пробки.

Одно из самых частых заблуждений — непонимание точки зрения пользователей. Отличный пример — как постепенно из мобильных интерфейсов уходит меню-гамбургер. Казалось бы, оно скрывало столько полезных фич! Но ведь оно требует действий — неоправданно много.

У человека есть 10 минут, и он просто хочет начать заниматься — или не очень хочет, но решил. Если нужно показать, как все работает, лучше расставить пошаговые подсказки, а на экране оставить минимум элементов.

И наконец, интерфейс, безусловно, робот, но объясняться придется по-человечески. Короткое, однозначно сформулированное сообщение, которое способствует действию — это стандарт, к которому стоит стремиться. «Приложение установлено» — отчетный язык машин. «Готово. Запустить?» — понятный язык людей, который не только передает формальное сообщение об успешной установке, но и предлагает немедленно начать работу.

Вознаграждение близко!

Комментарии
Продолжить чтение

Реклама

Наша рассылка

Нажимая на кнопку "Подписаться" вы даете согласие на обработку персональных данных.

Вакансии

Популярное

X
X

Спасибо!

Теперь редакторы в курсе.