Giter VIP home page Giter VIP logo

creditcard-fraud's Introduction

Template

Template do CookieCutter

Project Organization

├── LICENSE
├── Makefile           <- Makefile with commands like `make data` or `make train`
├── README.md          <- The top-level README for developers using this project.
├── data
│   ├── external       <- Data from third party sources.
│   ├── interim        <- Intermediate data that has been transformed.
│   ├── processed      <- The final, canonical data sets for modeling.
│   └── raw            <- The original, immutable data dump.
│
├── docs               <- A default Sphinx project; see sphinx-doc.org for details
│
├── models             <- Trained and serialized models, model predictions, or model summaries
│
├── notebooks          <- Jupyter notebooks. Naming convention is a number (for ordering),
│                         the creator's initials, and a short `-` delimited description, e.g.
│                         `1.0-jqp-initial-data-exploration`.
│
├── references         <- Data dictionaries, manuals, and all other explanatory materials.
│
├── reports            <- Generated analysis as HTML, PDF, LaTeX, etc.
│   └── figures        <- Generated graphics and figures to be used in reporting
│
├── requirements.txt   <- The requirements file for reproducing the analysis environment, e.g.
│                         generated with `pip freeze > requirements.txt`
│
├── setup.py           <- makes project pip installable (pip install -e .) so src can be imported
├── src                <- Source code for use in this project.
│   ├── __init__.py    <- Makes src a Python module
│   │
│   ├── data           <- Scripts to download or generate data
│   │   └── make_dataset.py
│   │
│   ├── features       <- Scripts to turn raw data into features for modeling
│   │   └── build_features.py
│   │
│   ├── models         <- Scripts to train models and then use trained models to make
│   │   │                 predictions
│   │   ├── predict_model.py
│   │   └── train_model.py
│   │
│   └── visualization  <- Scripts to create exploratory and results oriented visualizations
│       └── visualize.py
│
└── tox.ini            <- tox file with settings for running tox; see tox.readthedocs.io

Project based on the cookiecutter data science project template. #cookiecutterdatascience

Detecção de Fraude de cartão de crédito

Projeto

  • Detecção de fraudes - Classificação

Repositório

  • Deteccao de Fraude + EDA.ipynb - Notebook com EDA, tunagem e seleção de modelos.

Repositório V 2.0 Projeto

O projeto passou por uma atualização aplicando-se boas práticas para validação do modelos, evitar data leakage e melhorar a performance em produção.

Introdução e Data Source

Dados de transações de cartão de créditos foram capturadas num período de 48h. A fim de anonimizar e proteger os clientes, aplicou-se a técnica de PCA (Principal Component Analysis) que reduziu o número de features para 30 no total, todas adotando um formato numérico.

Os dados foram rotulados por meio da coluna "Class" que diferencia uma transação comum de uma fraude.

Class: 1 - Transação Fraudulenta Class: 0 - Transação Comum

Os dados são naturalmente desbalanceados, o número de transações fraudulentas registrados corresponde à apenas 0,17% das transações. (492 transações fraudulentas e 284.315 transações comuns).

Objetivos

O objetivo desse projeto é criar um modelo que seja capaz de identificar corretamente transações fraudulentas para que, dessa forma, as operadoras de cartões possam impedir que a transação seja realizada e bloqueá-los como medida de segurança.

Obter um modelo com alta revocação e alta precisão para classificação de transações fraudulentas, portanto, é fundamental.

Em andamento: Construção arquitetura (Kafka - streaming de dados) para consumo do modelo simulando uma transação real.

Análise Exploratória de Dados (EDA)

Observa-se que as transaçõs comuns tem um padrão:
- Atingem o mínimo por volta das 04h da madrugada e crescem até atingir o pico ás 09h da manhã que se mantém até as 21h quando começa a cair o número de transações.

As transações fraudulentas não possui um padrão de distribuição, no entanto, é possível verificar que ocorrem majoritariamente em 2 períodos:

- As 03h da madrugada, quando não há muitas transações comuns ocorrendo.
- As 11h da manhã. Embora seja um horário com alto número de transações comuns, é bastante anormal a queda do número de transações fraudulentas nos horários subjacentes 10h e 12h. 
- As transações comuns possuem uma média estável e inferior comparada as transações fraudulentas que possuem médias altas e com alto desvio padrão.
- É possível observar um pico nos valores das transações fraudulentasas 0h e as 10h, mas isso pode ser efeito da alta variância dessas observações.

Resultados

5 Modelos foram selecionados:

  • LGBMClassifier
  • XGBClassifier,
  • RandomForestClassifier,
  • DecisionTreeClassifier
  • LinearSVC.

O melhor modelo foi selecionado a partir de uma função de custo que contabiliza o tradeoff em erros de classificação de fraudes / não fraudes. O modelo LGBMClassifier eleito como preditor e apresenta as seguinte performance nos dados de teste:

Revocação classe 1 - Fraudes: 89,03% Revocação classe 0 - Transações comuns: 99,54% Acurácia: 99,54% AUC: 0,9429

Características e curiosidades do projeto

  • Foi criado uma função de custo relacionados aos falsos positivos e falsos negativos para orientar a escolha do melhor modelo
  • O modelo prioriza o acerto de 2843 (+1) transações não fraudulentas em detrimento de 165 fraudes devido aos custos e a proporção de ocorrencias de transações fraudulentas.
  • Isso equivale a dizer que o modelo prioriza um ganho de 1% na taxa de acerto de não fraudes em detrimento de 33% na taxa de acertos de fraudes.
  • Recomendação: Alterar a função de custo incorporando uma função de probabilidade de churn entre clientes vitimas de fraudes e não vítimas assim como os custos relacionados ao churn.

GAP e possíveis melhorias

  • Há poucos exemplos de transações fraudulentas (492), embora tenha-se validado as métricas com os dados de treino, é possível que ao colocar o modelo em produção haja uma queda na revocação sendo necessário o retreinamento com novos exemplos de transações fraudulentas.

  • Além disso, o dataset utilizado provém de uma coleta em 48h e não há mais informações sobre os dias em que foram coletados, pode ocorrer uma mudança de comportamento nas transações fraudulentas de acordo com o período do ano (Natal, Carnaval etc) ou com o dia da semana (Finais de Semana e Feriados prolongados). Dessa forma, pode ser necessário retreinar o modelo para contabilizar comportamentos atipicos possívelmente não considerados.

Stack

Numpy, Pandas, Scikit-Learn, Seaborn, Matplotlib

creditcard-fraud's People

Contributors

webercg avatar

Watchers

 avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.