Giter VIP home page Giter VIP logo

smart_city_hackaton's Introduction

Функциональное описание проекта

Платформа для автоматизации сбора и обработки данных для расчёта индекса IQ городов в форме веб-приложения. Платформа интегрируется с внешними источниками данных (позволяет автоматически собирать и рассчитывать данные по 16 базовым показателям) и повышает достоверность данных за счёт их верификации для 14 индикаторов. Верификация производится путём автоматического сбора данных с соцсетей, их анализа и классификации, а также анализа эмоциональной тональности постов и комментариев с применением машинной обработки и понимания естественного языка (NLP & NLU). Стек решения: .Net Core, python, Docker, k8s, MySQL, DeepPavlov, TypeScript, Angular. Уникальность: автоматическая верификация данных отчёта с применением NLU- алгоритмов для обработки больших данных.

Демо

Доступно тут - https://smart-city-hack.cashee.ru/ Учетные записи для входа:

  • region_manager : 01region_manager01
  • admin : Ltybcrf28

Логическая структура проекта

Система включает в себя следующие логические компоненты:

  • реляционная БД (СУБД MySQL). Рантайм в виде docker контейнера под оркестрацией Kubernetes.
  • пользовательский вэб-интерфейс. Рантайм в виде набора статических файлов, размещенных "под" nginx. Сервер крутится в виде docker контейнера под оркестрацией Kubernetes.
  • сервис, предоставляющий REST API для работы клиентской части. Рантайм в виде docker контейнера под оркестрацией Kubernetes.
  • скраппер данных соц сети ВК.
  • сервис оценки данных ВК (оценка тональности + поиск ключевых слов)
  • скраппер данных с сайта РосСтат. Все Python сервисы на настоящий момент находятся в пределах одного Docker контейнера.

Файловая структура проекта

  • UG.Configuration - .NET Standard 2.1. библиотека: абстракции для работы с конфигурацией
  • UG.DBScripts - скрипты создания, обновления схемы БД и базового контентного наполнения
  • UG.Model - .NET Standard 2.1. библиотека: описание модели предметной области
  • UG.ORM - .NET Standard 2.1. библиотека: классы реляционных проекций
  • UG.UserManagement.Cli - .NET Core 3.1. консольное приложение. Используется для выполнения некоторых рутинных операций (создание учетных записей пользователя, сервисы импорта данных), реализация полноценного решения которых через вэб-инетерфейс была бы слишком ресурсозатратна для проекта уровня прототипа
  • UG.WebApi - ASP.NET Core 3.1. self-hosted приложение. Реализует логику REST API для клиентского приложения
  • UG.WebFront - Клиентское вэб-приложение на основе шаблона ngx-Admin (на основе Angular 9 и Nebular).
  • UG.PyServices - микросервисы на питоне: --- assessor - сервис, выполняющий оценку тональности артефактов соц сетей и поиск ключевых слов. Рантайм на базе Python3. --- rosstat_scrapper - Сервис сбора данных с сайта РосСтат. Рантайм на базе Python3. --- vk_scraper - Сервис сбора данных с соц сети ВКонтакте. Рантайм на базе Python3.

smart_city_hackaton's People

Contributors

dmzubr avatar

Watchers

 avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.