Искусственный интеллект изменит рынок услуг, рынок труда, человеческие взаимоотношения, торговлю, навигацию – изменит всё. Говоря о об этом, мы чаще всего пользуемся будущим временем: настанет миг, когда машины покорят человечество. Надо сказать, что, во-первых, нет в этом ничего страшного, новые технологии – часть эволюции общества, а во-вторых, всё уже произошло. Александр Крайнов, руководитель службы компьютерного зрения и технологий искусственного интеллекта "Яндекса", рассказал о том, как развивается искусственный интеллект и как применяется в самых разных сферах человеческой жизни.
Нажмите на интересную вам тему:
- Премия "Яндекса" в области компьютерных наук
- Будущее искусственного интеллекта
- Главные тренды развития отрасли
- Спектр применения ИИ
- Искусственный интеллект на службе государства
- ИИ в медицине
- Как банки используют машинное обучение?
- ИИ в бизнесе
- Как новые технологии изменят рынок труда?
- ИИ на войне
- Нейросети в искусстве
- Какие профессии создает ИИ
Про "Яндекс" и премию в области компьютерных наук
Казахстан для "Яндекса" – особое место. Можно сказать, "Яндекс" вышел из Казахстана, потому что оба наши сооснователя, Аркадий Волож и Илья Сегалович, родом отсюда. Мне удалось сюда приехать в первый раз, но хотелось давно, тем более пообщаться с самой толковой и передовой аудиторией – студентами. А тут предоставился замечательный повод – премия имени Сегаловича, которую в этом году учредил "Яндекс". Она вручается за достижения в области компьютерных наук, за самое интересное исследование молодых учёных. Мы объявляем об этой премии в разных вузах, и я воспользовался таким поводом приехать, рассказать о премии и машинном обучении в "Яндексе".
До 28 февраля 2019 года мы принимаем заявки, в марте определимся с победителями и в апреле будем премию вручать. Лауреаты получат по 350 тысяч рублей (примерно 2 миллиона тенге. – Прим. Авт.). Нужно это для того, чтобы стимулировать интерес к науке, ещё это отличный шанс и отличная перспектива для студентов и их научных руководителей, для молодых учёных, которые проводят исследования в вузах или исследовательских центрах. Единственное требование – участники не должны быть аффилированы ни с одной коммерческой структурой. В "Яндексе" есть свои исследователи, и они на эту премию претендовать не могут, потому что у тех, кто работает на коммерческие компании, и так всё хорошо.
О будущем искусственного интеллекта
Скажу парадоксальную для кого–то вещь: это будет что-то привычное и совсем незаметное. Никакого восстания машин. Каждый раз, когда в нашу жизнь приходит любое громкое техническое новшество, это вызывает много эмоций, а спустя время всё становится привычным. Оглядываясь назад, мы думаем, например: "Автомобили, а что автомобили?" – мы о них не задумываемся. А когда они только появились, была масса разговоров: эти машины будут всех захватывать, раньше были понятные лошади, а теперь это. То же самое с искусственным интеллектом: использование научных технологий сильно поменяет нашу жизнь, но для наших детей и внуков это будет абсолютно привычной, естественной и незаметной частью жизни.
Приведу пример. Совсем недавно нормальное распознавание голоса было чистой экзотикой, во всех старых фильмах о будущем роботы говорят противным, мёртвым механическим голосом. Сейчас задавать голосовые запросы поисковой системе – абсолютно естественно, и голос той же самой "Алисы" звучит натурально, он не раздражает. И "Алиса", с которой дети общаются без проблем, – это для них понятно и естественно, она появилась всего полтора года назад. И вошла в нашу жизнь так, будто была всегда.
Есть такие вещи, о природе которых мы не задумываемся, как навигация, например. Мы забыли, что было иначе, что люди какие-то там карты разворачивали. Сказал, куда тебе ехать, проложили тебе маршрут, ты поехал, даже не задумываясь о том, что в это время где-то на куче серверов собираются данные, анализируются маршруты, строится система предсказаний пробок и так далее. Маршрут непрерывно переобсчитывается, и, конечно, этим занимаются не люди – это делает машина, и это тоже можно назвать искусственным интеллектом. А для нас абсолютно буднично. И количество таких естественных вещей будет увеличиваться, и они будут становиться всё более привычными. Каждый раз или почти каждый раз что-то новое выглядит как какая-то сенсация, и мы думаем, стоит этого опасаться или нет, но проходит год или два – и это становится частью быта. При этом это я сейчас говорю год или два, чем дальше, тем быстрее: время тоже ускоряется.
О главных трендах в развитии искусственного интеллекта
Если мы говорим про беспилотные автомобили как один из образцов искусственного интеллекта, то их появление на улицах сильно зависит от заинтересованности в этом государства, что требует серьёзной работы со стороны властей – проработки законодательной базы и введения последовательных законов, которые облегчат процесс. Здесь должны, конечно, работать вместе и разработчики, и государство, потому что это действительно сложная вещь – делать юридическую базу для того, чтобы максимально безопасным образом вывести беспилотные автомобили на улицы города. Те страны, где об этом будут думать активнее и лучше, получат результат быстрее.
Второе – технологии безналичной оплаты и сам принцип взаимодействия человека с деньгами. Я вот, например, забыл, когда в России мне надо было доставать карточку, всё оплачиваю с телефона. В Казахстан это тоже уже проникает. Я был в командировке в США, там было одно место, самое что ни на есть модное – Нью-Йорк, угол Бродвея и Уолл-стрит, Starbucks. И там мне удалось наконец заплатить с телефона, во всех остальных местах – нет, даже PayPass далеко не везде работает, нельзя карточку приложить, надо засовывать, пин-код вводить, и таких мест большинство. Хотя там разрабатывается много передовых технологий, но что касается их внедрения и применения, это не всегда так.
Потому что США – бюрократическая страна, и внедрение новых технологий здесь не сказать, чтоб самое передовое, иногда кажется, что передовое, но нет. Китай в этом лидер, там высокая конкуренция везде, на любом уровне, где только можно представить, и скорость проникновения новых технологий взрывная, просто колоссальная.
Технология распознавания лиц, положим, максимально доступна, ее может сделать практически кто угодно, есть много открытого кода, который неплохо работает. В китайском Синьцзяне, например, достаточно жёсткий контроль над людьми, сканируют всё, в том числе лица. На поимку нарушителя уходит буквально несколько минут. Звучит как антиутопия, верно? Но таков прогресс, и здесь можно думать, пройдёт он быстрее или нет, рассуждать, хорошо это или плохо, но он неизбежен. И, главное, мы через это уже проходили, и не раз. Во-первых, в какой-то момент появились паспорта для идентификации человека. Был период, когда никакой идентификации не было, у человека было только имя, не было даже фамилии, по которой можно навести справки. Потом появились документы, благодаря которым о человеке можно многое узнать, и чем дальше, тем больше. В какой-то момент появляется технология обработки отпечатков пальцев, жёсткий идентификатор, который нельзя поменять. Сейчас то же самое с лицом, и это удобно, позволяет нам разблокировать телефон, например. Мы периодически думаем: а как же соображение приватности, но на другой чаше весов лежит отсутствие необходимости доказывать, что ты ничего плохого не делал. Это ещё один важный тренд. Паспорт будущего – принципиально другой тип коммуникаций.
О спектре применения искусственного интеллекта
Первое, с чего стоит начать, – поиск, который невозможен без технологии искусственного интеллекта. Это тысячи фактов, по которым принимается решение, что именно нужно показать по короткому запросу человека, и качество поиска определяется целиком и полностью качеством машинного обучения. Убрав машинное обучение из поиска, мы получим проблему. Иногда раскладку на сайте забудешь поменять – и ничего не находится. Поисковая система нас приучила к тому, что как ты ни пиши, что ни введи, нас сразу идеально понимают. Это машинное обучение.
Спектр возможностей практически бесконечен: кино, музыка, прогноз погоды, навигаторы, беспилотные авто. Вообще всё, что касается транспорта: рассчитать время прибытия такси, выбрать автомобили, которые увидят заказ, рассчитать время подачи, правильно определить и спрогнозировать цены – это всё делается в автоматическом режиме. И, в частности, предельно близкая мне тема – компьютерное зрение, распознавание изображений. Та же "Алиса" – пример машинного обучения, она понимает речь, способна отвечать речью, а также распознаёт изображения. Недавно мы сделали технологию, которая называется DeepHD – технология увеличения размера изображения и видео, когда берётся маленькая картинка и в два раза увеличивается с помощью нейросетей.
Ещё из примеров – реклама. Та реклама, которая нас сопровождает в интернете, подбирается автоматически, исходя из знаний пользователя, его интересов, потому что цель бизнеса – показывать рекламу, максимально полезную и удобную для человека. Это выгодно всем: и пользователю, и рекламодателю.
Это то, что мы делаем, и многое-многое другое. В случае "Яндекса" мне даже сложно представить или придумать какую-нибудь сферу деятельности, где не применяется искусственный интеллект.
О том, как искусственный интеллект использует или может использовать государство
Технологии искусственного интеллекта – это инструмент, и, как любой инструмент, для решения одних задач он эффективен, для других – нет. В государственном секторе, я знаю, есть проблема входящей корреспонденции. Вся бюрократическая машина построена таким образом, что письмо может где-то повиснуть, а оно должно обязательно до кого-то дойти, гражданин должен получить ответ. Такой корреспонденции много, и часто она проходит какими-то неведомыми путями, потому что никто долгое время не может понять и решить, кому она конкретно должна быть адресована и как на неё отвечать.
Системы сортировки входящей корреспонденции вполне можно автоматизировать по содержимому. Кроме того, нужно выделять вопросы индивидуальные, которые требуют какого-то человеческого подхода, анализа, общения людей. А в крайне типовых ситуациях процесс можно автоматизировать: выбрать с помощью анализа самый частотный сценарий, сделать классификатор таких сценариев и его автоматизировать. Это упростит работу и повысит эффективность госаппарата.
О том, что ИИ может сделать для медицины
Мой личный интерес к машинному обучению появился лет 30 назад. Я купил в антикварном магазине один из томов многотомного издания, который назывался "Опыт советской медицины в годы Великой Отечественной войны", и обнаружил там просто сумасшедшую статистику. Том, который я держал в руках, назывался "Лёгочные патологии при ранении конечностей". Казалось бы, какая связь – патологии в легких и ранения конечностей. Оказывается, какие-то закономерности есть, при этом книга была выпущена сразу после войны, и не было времени понять почему. Там были собраны наблюдения и статистика, и она была просто огромная, тысячи случаев. Из этого понятно, что, просто анализируя события и наблюдая за происходящим, можно найти закономерности, которые на первый взгляд неочевидны.
С медициной всё идёт медленно. Дело в том, что медицина – это консервативная область, которая жёстко регулируется по вполне понятным причинам – слишком высока цена ошибки, любое внедрение требует множества экспериментов. Второй важный момент – данные, которые собирает медицина, очень чувствительны и приватны, никто из нас не хочет, чтобы его история болезни стала публичной. Поэтому законодательная база устроена таким образом, что любые медицинские данные крайне строго охраняются.
Эту ситуацию нужно как-то аккуратно менять, потому что медицина – сфера, где максимально высок потенциал применения технологий: и скорость постановки диагноза, и постановка каких-то упреждающих диагнозов, и прогноз ситуации. Все врачи говорят одно и то же: приходите и проверяйтесь, чем раньше что-то диагностировано, тем лучше. Никто из нас, конечно, не ходит, потому что кажется, что меня это не коснётся, я молодой, у меня нет времени или ещё что-нибудь. Но если система будет давать индивидуальные рекомендации: конкретно тебе нужно прийти конкретно к этому врачу, потому что именно в твоём случае высок риск появления такого-то заболевания, которое нужно диагностировать на раннем этапе, – это было бы невероятно полезно. Надеюсь, что такие системы появятся.
О том, почему банки заинтересованы в развитии технологий ИИ
Есть то, что называется скоринг – принятие решения, выдавать или не выдавать кредит. Для банков это важно, вообще-то, банки зарабатывают на том, что они выдают кредиты, проценты по кредиту – одна из главных доходных частей банка. Но при этом, если по кредиту деньги не возвращаются, банк проигрывает. Я сейчас говорю не только о частных кредитах, не о бытовом кредитовании граждан, а о кредитах, которые выдаются большим компаниям. Это большие деньги.
Если банк плохо принимает решение о выдаче этих кредитов, то начинает действовать консервативно. Долгое согласование, куча бумаг и высокая ставка по кредиту, потому что она должна покрывать риски в тех ситуациях, когда кредит не возвращается. И значит, хорошая компания, хороший растущий бизнес получают дополнительное обременение. Теперь посмотрим со стороны нас всех, как нас эта история касается. А так и касается: чем лучше, быстрее принимается решение о выдаче кредита, тем быстрее деньги приходят в хороший, качественный, работающий бизнес, а если процветает бизнес, процветает и страна, платятся налоги, появляются новые рабочие места, растёт производство, вот это всё. И поэтому ключевое место – внедрение системы искусственного интеллекта в скоринг, в оценку рисков в системе выдачи кредитов, в кредитование – это важнейшая область, которая влияет не только на банки, но на всю экономику страны, на нашу жизнь. Но здесь, по счастью, банки это прекрасно понимают, туда вкладываются огромные усилия, там есть постоянно двигающийся прогресс, и он будет развиваться.
О том, как ИИ уже встроен в нашу повседневность и при чём тут бизнес
Всё, что касается голосовых помощников, – это новый канал общения людей с бизнесом. Или, наоборот, бизнеса с людьми. Давайте посмотрим, что было некоторое время назад. Недавно, лет 20 назад, появились первые веб-сайты. Это были пустые странички, гипертекст с ссылками, которые позволяли учёным выкладывать статьи. Зачем бизнесу делать такую веб-страницу? Это какая-то нелепая игрушка для учёных.
Проходит время, и бизнес понимает: обязательно нужно иметь свой сайт, потому что это главное средство общения с людьми. Таких страниц становится всё больше – появляются поисковые системы. Думать о том, насколько хорошо ты ранжируешься в поиске – да вы что, поиском никто не пользуется! Затем становится понятно, что, конечно, ты должен быть в поиске, в этот момент появляется интернет-торговля. Все такие: интернет-торговля – это неинтересно, это для гиков, там можно купить электронику и больше ничего. Не подумаете же вы, что в интернете в самом деле можно одежду покупать, не примерив, не потрогав, этого не может быть! Дальше появляются соцсети и мессенджеры. И скептики опять: и что мессенджер – передать сообщение, бизнес-то здесь при чём? Потом "Инстаграм". "Инстаграм" – это средство красиво обработать фотку, говорят скептики, а спустя какое-то время для огромного количество малого бизнеса "Инстаграм" – основной канал продаж. И каждый раз появляется что-то новое.
Сейчас главный канал общения бизнеса и потребителя – голосовой, кто–то говорит, что и это пройдёт, но многие бизнесы уже начали с ним работать. Строятся большие экосистемы, и этот канал в них встраивается. В случае "Яндекса" сам голос – целая экосистема, потому что помимо самого базового ядра распознавания синтеза речи под этим есть уже большое количество готовых сервисов, к которым человек привык. Человек привык к навигатору – и он голосом прокладывает маршрут, человек привык к поиску – и он ищет голосом, человек привык к музыке – он голосом ставит музыку. Голос прорастает везде: в браузеры, в отдельные поисковые приложения. Автомагнитолы заменяются на встроенные голосовые сервисы, ориентированные именно на ситуацию человека за рулём.
Голосовое общение для нас станет привычным, мы везде будем управлять голосом чем угодно, любой техникой. А это другой интерфейс, он отличен от текста. Голосовое общение – это общение диалоговое, мы что-то сказали, услышали ответ и продолжили общение, и поэтому представление своих товаров и услуг нужно оформлять в виде диалога. Это обязательно нужно делать, и для этого сейчас существует большое количество платформ. То есть я как пользователь говорю: "Алиса", я хочу заказать пиццу в такой-то пиццерии. "Алиса" говорит: хорошо, соединяю, и дальше я продолжаю говорить с человеком, а в другой пиццерии говорю с роботом, например. Огромные возможности появляются не только у бизнесов, но и у разработчиков. Потому что, как когда-то появление веб-сервисов породило новую профессию веб-разработчика, дало рабочие места куче людей, так же и тут. Вряд ли бизнес, особенно средний и малый, будет держать у себя в штате специалиста по голосовым диалогам. Проще обратиться к какой-то компании, которая сделает для тебя разработку. И такие компании появляются, у нас уже работает программа сертификации таких разработчиков.
О том, как ИИ изменит рынок труда
Профессии не исчезнут – они поменяются. Где-то поменяется количество занятости, где-то человек станет эффективнее, один специалист сможет выполнять работу за десятерых. Это происходило всегда: когда появилась лопата, стало понятно, что человек с лопатой может делать работу двух человек с мотыгой. Когда появился трактор, стало понятно, что он может сделать столько, сколько сто человек с лопатами. И ни разу на пути этого прогресса не было такого, что мы говорили: нет, что-то плохо с тракторами получилось, давайте к лопатам вернёмся.
Профессии будут меняться, как это происходило всегда, но не думаю, что стоит ожидать резких потрясений. Роботы заменят операторов колл-центров, просто потому что там более-менее одинаковые сюжеты. Но мы сами же рекомендуем всегда оставлять возможность переключения на оператора: во-первых, нужно явно давать понять человеку, что сейчас с ним говорит робот, он мне отвечает очень быстро и по делу. Если он не может меня понять, мне остаётся возможность – соедините меня с человеком. Операторов будет меньше, но они будут более квалифицированны, они будут решать действительно сложные вопросы, а типовые будут за роботами.
Будет продолжать исчезать рутинная и тяжёлая работа, причём уходить она будет медленно, не то что однажды всем скажут: теперь вместо вас роботы, вы свободны, нет. Помимо того, что какие-то профессии будут меняться, будет создаваться новый пласт рынка труда. Вы бы хотели иметь персонального ассистента, который билеты бронирует, на рейс регистрирует, в парикмахерскую запишет, утром разбудит, напомнит что угодно, всё запишет, сообщит о встрече? Я тоже о таком всю жизнь мечтаю. А вам хотелось бы стать таким помощником? Работать на меня, например, и 24 часа, ночью и днем, выполнять мои капризы, записывать мои сообщения, говорить мне: тебе пора вставать? Вряд ли. Мы видим разрыв между нашими потребностями и людьми, которые хотят эти потребности удовлетворять. И именно здесь приходит искусственный интеллект, который заполняет нишу. Роботы будут выполнять ту работу, которую людям выполнять на самом деле не очень хочется, просто иногда они вынуждены. У робота таких понятий, как удовольствие и неудовольствие, к счастью, нет.
Про ИИ на войне – это дорого и бесполезно (почти)
Искусственный интеллект – это система инструментов, можно даже сказать, набор математических алгоритмов, который решает очень узкую задачу. Беспилотный автомобиль может доехать из пункта А в пункт В, но при этом он не в состоянии ответить на вопрос, сколько будет 6 умножить на 7. Мы можем поставить ещё один инструмент, который будет отвечать на этот вопрос, но они не будут связаны друг с другом. Это примерно как швейцарский нож – набор инструментов, который мы вынимаем. Поэтому можно сделать какого-то робота, который будет по кнопке ехать и выкапывать мину, можно сделать робота, который будет летать в самолёте вместо пилота. Но это будут два разных робота, и нет общего робота, который ими управляет, – человек делает это гораздо эффективнее. Кто-то из американцев говорил: если для завоевания страны нужны истребители шестого поколения, то дешевле страну купить, потому что они очень дорогие. Думаю, бояться восстания военных машин не стоит.
В сложных задачах, где нужно определять цели, понимать, что нужно делать или не делать, искусственный интеллект бесконечно проигрывает человеку. Да, наверное, робот будет выкапывать мины лучше, чем сапёр, по крайней мере, его действительно будет не так жалко, если он неудачно выкопает. В самолётах, может, они будут летать, будут ездить штуки, которые стреляют точнее. Но куда эффективнее эти деньги тратить на улучшение возможностей банковского скоринга и, как следствие, улучшение нашей жизни. Но войны никуда не денутся, по крайней мере пока, поэтому хочется надеяться, что использование ИИ в военных целях, вне зависимости от размера затрат, приведёт к тому, что меньше людей физически будет в армии на тех местах, где они могут погибнуть, будет дистанционная война с меньшим количеством жертв. Хотя это оксюморон: дистанционная война – самая разрушительная и страшная.
Про нейросети в искусстве
24 февраля 2019 года в Сочи проходил Зимний фестиваль искусств, и на заключительном гала-концерте Юрий Башмет играл музыкальное произведение, написанное нейросетью. На текущем уровне развития нейросеть действительно способна написать мелодию. Это не законченное музыкальное произведение, это однотонная мелодия, а дальше композитор её оттачивает до готового произведения. Для композитора это довольно серьёзное подспорье, потому что, когда композитор садится и начинает писать музыкальное произведение, ему нужна какая-то зацепка, идея. А здесь нейронная сеть предлагает множество вариантов, и он выбирает оттуда идеи, которые ему нравятся, развивает – и получается музыка.
То есть даже здесь творческим людям нейросети помогают, а то, что это какая-то имитация прошлого и его переосмысление, так у человека ровно так же происходит. Все музыканты, когда пишут свои музыкальные произведения, опираются на произведения прошлого. Это не значит повторение, копирование и обязательно подражание, но это так или иначе делается под каким-то влиянием. Практически любой музыкант может назвать каких-то кумиров или тех, кто однажды повлиял на его творчество, кого он слушал, кому, может, в какой-то степени подражал. И всегда можно найти такие цепочки преемственности, поэтому здесь путь искусственного интеллекта от человеческого ничем не отличается. Это не значит, что появляется что-то радикально новое, но какую-то дополнительную новизну ИИ способен внести. В искусстве бывает, что развитие идёт небольшими шагами, и человеку, от искусства более или менее далёкому, мне, например, кажется: ничего себе, какой прорыв. А человек, которому это близко, знает, как много было промежуточных шагов, которые не стали столь известными.
О востребованных профессиях в сфере искусственного интеллекта
Кадров катастрофически не хватает, их дефицит огромен во всём мире. И, к сожалению, пока ещё образование отстаёт, потому что область стремительно развивается. Как это часто бывает, за любой развивающийся областью тяжело успеть образованию. Пока ты разрабатываешь программу обучения, находишь специалистов, всё это дело убегает, и фактически в нашей области можно что-то делать и успевать, только если ты учишься у действующих специалистов, которые прямо сейчас на передовой.
Что касается фундаментальных знаний математики, алгоритмов, искусственном интеллекте, то здесь на территории наших стран всё более или менее хорошо. Что касается получения довеска – свежего актуального опыта и знаний, здесь, конечно, плохо, но с этим нужно бороться. В "Яндексе" мы боремся по мере своих сил и возможностей, у нас создана школа анализа данных, где мы обучаем специалистов по машинному обучению, и там преподают действующие сотрудники, и не только наши, учёные, которые прямо сейчас этим занимаются. Отчасти компенсируют проблему с образованием появляющиеся курсы, велики возможности онлайн-образования. Но нельзя ничему человека научить – ему можно помочь научиться. Машинное обучение, искусственный интеллект – научиться ему трудно, нужно прикладывать серьёзные усилия, но возможности есть. Есть и школы анализа данных, и курсы, и большое количество информации в интернете. Есть множество технических вузов, которые дают фундамент, необходимый и достаточный для того, чтобы дальше проходить все остальные круги. И когда у тебя есть фундамент, ты можешь на нём построить и положить кирпичики дополнительных сверхсовременных знаний и выстроить свои навыки, свою квалификацию.
-
1🎉 Группа Orda, ансамбль "Яшлык" и V$XV Prince. Как интересно провести выходные 23 и 24 ноября в Астане и Алматы
- 5729
- 1
- 6
-
2⚠️ Доброе утро! Предлагаем обзор главных новостей за 20 ноября
- 2540
- 0
- 5
-
3🍇 В модном винограде без косточек казахстанские специалисты не нашли вредных бактерий
- 2652
- 3
- 23
-
4🤔 Борьба с покупкой водительских прав: автошколы отказываются передавать частной компании данные о выпускниках
- 2351
- 2
- 28
-
5👀 В Казахстане редко назначают домашний арест, несмотря на большие расходы на содержание в СИЗО
- 2231
- 2
- 10
-
6👨⚖️👨⚖️👨⚖️🟢Суд Алматы отправил руководителя таможенной лаборатории в колонию за взятки
- 2223
- 0
- 25
-
7🎫✈️ Станут ли невозвратные билеты возвратными и зачем субсидировать авиарейсы – глава КГА
- 2292
- 0
- 12
-
8😱 Одного из богатейших людей мира обвинили во взяточничестве. Акции его компаний обвалились
- 2344
- 3
- 15
-
9🟢 Улице в Астане присвоили имя общественного деятеля
- 2272
- 2
- 48
-
10🚛🏗 Торговля и логистика в Центральной Азии: новые коридоры, продукты и D2C-модель
- 2262
- 0
- 6