FunG: Modelagem de distribuição de famílias de Fungos

A proposta do projeto é elaborar um modelo preditivo com dados sobre espécies de fungos nativos do Brasil para determinar a família predominante de fungos em uma determinada região. Esse tipo de análise pode ser útil para fins comerciais, dado que fungos apresentam uma gama de aplicações medicinais, culinárias, entre outras. Além disso, pode auxiliar em estudos de biogeografia, fornecendo insights sobre como as condições do ambiente culmina na ocorrência e predominância dessas espécies.

Começando

O projeto visa aplicar técnicas de aprendizado de máquina para prever a ordem de uma espécie de fungo nativa do Brasil com base em sua localização. Baseando-se em características como municipalidade, longitude, latitude e elevação média em metros observadas, o modelo busca identificar padrões ecológicos e geográficos que influenciam a distribuição das ordens desses fungos.

As definições de features e target foram feitas da seguinte forma:

Atributos categóricos:

• municipality: município em que o fungo foi encontrado.

Atributos numéricos:

• decimalLatitude: latitude em que o fungo foi encontrado em decimais.
• decimalLongitude: longitude em que o fungo foi encontrado em decimais.
• meanElevationInMeters: média das colunas originais minimumElevationInMeters e maximumElevationInMeters, que nos dirá a altura média que o fungo pode ser encontrado.

Target:

• family: família a que o fungo pertence

O conjunto de dados escolhido é referente à Coleção de Fungos do Herbário SP, que possui cerca de 45 mil de exemplares de fungos pertencentes ao grupo dos basidiomicetos e fungos liquenizados do estado de São Paulo. No dataset original, havia uma série de fatores que poderiam atrapalhar a indução de modelos de machine learning, como valores ´NaN´ (Not A Number), classes do target com poucas observações e feature categórica (municipality). Portanto, foram realizados processos de pré-processamento dos dados antes da indução dos modelos de fato.

• Para lidar com os valores NaN, foi utilizado o método dropna() do pandas. Ele remove as linhas com esse tipo de informação;

• Quanto às classes do target, foi criada uma variável denominada logic, que armazena as classes cuja quantidade de observações é superior a 100 (Os resultados obtidos podem ser verificados no código correspondente).

• Por fim, foi realizado o processo de encoding (codificação) da feature categórica com o One-Hot Encoder, uma vez que municípios não são variáveis ordinais.

  Após essas modificações, os dados tratados são adicionados a um dataset final, que será utilizado nos processos.

🔨 Etapas do projeto

• Acesso e pré-processing de dados.
• Realizar splitting dos dados e testes.
• Modelo Baseline Classificador.
• Otimização com Optuna.
• Implementação de K-NN vizinhos.
• Implementação de floresta aleatória.
• Teste com Naive Bayes.

Implementação

Para a implementação desse projeto foi utilizada a interface do Jupyter Notebook para elaborar o código fonte, utilizando as bibliotecas pandas, matplotlib, numpy, seaborn, sklearn para carregamento, tratamento e exibição dos dados utilizados no projeto.

🛠️ Construído com

As seguintes ferramentas foram utilizadas para a elaboração do projeto:

Estratégia de Holdout:

Também conhecida como train test split ou divisão em treino e teste, tem como função dividir as variáveis utilizadas para a implementação do modelo em unidades de treino e teste, de forma que o modelo tenha features suficientes para ser treinado, mas que ainda tenha dados que desconhece, para então averiguarmos a acurácia do modelo com dados desconhecidos.

Optuna:

É um módulo para resolver problemas envolvendo otimização com parâmetros numéricos e categóricos que proporciona buscas mais estratégicas do que a busca aleatória e mais eficientes que a busca em grade. Pontanto, é uma estrutura de software de otimização automática de hiperparâmetros de um modelo de aprendizado de máquina que também se integra ao acompanhamento e monitoramento de modelo e avaliação.

Baseline:

Também conhecido como dummy, linha de base ou modelo fictício. No contexto de ciência de dados e aprendizado de máquina, o baseline pode ser visto como uma solução de referência que define um ponto de partida. Ele foi projetado para ser simples e de fácil implementação, como um modelo que prevê a classe mais frequente (para problemas de classificação).

Classificador k-NN:

O funcionamento de um modelo preditivo induzido por este algoritmo é simples: ao receber um certo exemplo "X", o algoritmo checa a distância deste exemplo com relação aos exemplos que ele já conhece (vizinhos). O valor predito pelo modelo será a média dos alvos dos k-vizinhos mais próximos do exemplo de entrada (k-vizinhos com menor distância).

Floresta aleatória:

Combina funções de predição aproximadamente não enviesadas fazendo uma classificação. É treinada com covariáveis dadas pelas predições dos modelos a serem combinados, uma vez que é formada por diversas árvores de decisão em que o processo de construir cada das árvores de decisão desta floresta envolve amostragem dos exemplos e de atributos.

Métricas de classificação:

O módulo sklearn.metrics.classification_report oferece várias funções para medir o desempenho de modelos de classificação, incluindo funções de perda e pontuações. Algumas métricas podem exigir estimativas de probabilidade da classe positiva, valores de confiança ou valores de decisões binárias. A maioria das implementações permite que cada amostra forneça uma contribuição ponderada à pontuação geral, por meio do parâmetro. Dentro desse método, existem as seguintes métricas:

• Recall: É uma métrica usada para medir a proporção de positivos verdadeiros que são corretamente identificados, sendo intuitivamenete a capacidade do classificador de encontrar todas as amostras positivas. É muito útil em situações em que a detecção de casos positivos é crucial e a ocorrência de falsos negativos é indesejada.
• Acurácia: É uma métrica fundamental que representa a porcentagem de previsões corretas feita pelo modelo. É calculada pela divisão do número de previsões corretas pelo número total de previsões realizadas pelo modelo. Uma alta acurácia indica que o modelo está fazendo previsões corretas em uma alta porcentagem de casos.
• Precision: É uma métrica que mede a porcentagem de previsões corretas em relação ao total de previsões. A precisão é calculada dividindo os verdadeiros positivos pelo somatório dos verdadeiros positivos e dos falsos positivos.
• F1 score: É uma medida que combina a precision e o recall em uma unica métrica, sendo essencial para bases de dados desbalanceadas.

Naive Bayes (NB):

Os classificadores Naive Bayes são um conjunto de algoritmos probabilísticos que realizam predições com base no Teorema de Bayes. São chamados "naive" (ingênuos) porque assumem uma relação de independência condicional entre as features que analisa.

$$ P(C | X) = \frac{P(C) P(X | C)}{P(X)} $$

O Teorema de Bayes descreve a probabilidade de ocorrência de um evento C ocorrer sabendo que um evento X ocorreu. É uma ferramenta extremamente poderosa, que proporciona a possibilidade de atualizar uma probabilidade inicial matematicamente, tendo aplicações extremamante difundidas em diversas áreas, como aprendizado de máquina, saúde, ou mesmo a vida cotidiana. Para a equação acima, temos os termos:

• $P(C|X):$ probabilidade de C sabendo que X ocorreu.
• $P(X|C):$ probabilidade de X sabendo que C ocorreu.
• $P(C):$ probabilidade inicial de C, o que se sabia de C antes de X ocorrer.
• $P(X):$ é a probabilidade total de X.

Aplicação ao contexto

Tomando ainda como referência a equação acima, considerando que $X = {X_1, X_2, X_3, ..., X_N}$, sendo X o conjunto das features que contribuem para os dados de treino e teste e que C representa uma classe que estamos tentando prever, o Teorema de Bayes é aplicado no NB de forma que a cada feature analisada em relação a uma classe tenha probabilidade de ocorrer independente de outra, o que resulta em:

$$ P(X|C) = P(X1|C) * P(X2|C)...P(X_N|C) $$

Assim, a probabilidade que representa a relação da manifestação das features dada uma determinada classe pode ser representada pelo produto das probabilidades individuais de cada feature. o Teorema de Bayes aplicado ao contexto desse tipo de previsão fica:

$$ P(C | X) = \frac{P(X1|C) * P(X2|C)...P(X_N|C)}{P(X)} $$

Assim, a probabilidade de uma classe C ocorrer se as features $X_1, X_2, ..., X_N$ se manifestarem pode ser calculada pelo teorema. É importante lembrar que essa probabilidade é a atualização de uma probabilidade inicial $P(C)$. Como temos 4 classes, esse processo é realizado para as 4. A classe que possuir a probabilidade mais alta será a indicada como correspondente ao conjunto de features utilizadas no cálculo.

Foi mencionado que Naive Bayes é um conjunto de algoritmos probabilísticos. Como opções de algoritmos para implementação dessa lógica, teríamos o MultinomialNB, altamente recomendado para a classificação de textos, BernoulliNB, recomendado para dados que apresentem distribuições Bernoulli multivariadas, CategoricalNB para dados distribuídos categoricamente e GaussianNaiveBayes, que assume que as variáveis analisadas estão seguindo uma distribuição Gaussiana.

Referências

[1] Optuna - A hyperparameter optimization framework [Internet]. Optuna. Available from: https://optuna.org/.

[2] CASSAR, Daniel. "ATP-203 3.0 – Modelo linear e baseline.ipynb" [Material de sala de aula]. Aprendizado de Máquina, 04 de julho de 2024, Ilum - Escola de Ciência.

[3] Escola DNC. Métricas de Avaliação de Modelos de Classificação em Machine Learning - Blog DNC [Internet]. Blog DNC. 2024 [cited 2024 Nov 10]. Available from: https://www.escoladnc.com.br/blog/metricas-de-avaliacao-de-modelos-de-classificacao-em-machine-learning/.

[4] CASSAR, Daniel. "ATP-203 2.1- Aprendizado de máquina, k-NN e métricas.ipynb" [Material de sala de aula]. Aprendizado de Máquina, 07 de agosto de 2024, Ilum - Escola de Ciência.

[5] IZBICKI, Rafael; DOS SANTOS, Tiago Mendonça. Aprendizado de máquina: uma abordagem estatística. 2020. Disponível em: http://www.rizbicki.ufscar.br/ame/.

[6] CASSAR, Daniel. "ATP-203 10.0 – Outras métricas de classificação.ipynb" [Material de sala de aula]. Aprendizado de Máquina, 27 de outubro de 2024, Ilum - Escola de Ciência.

[7] Nunes C. O algoritmo Naive Bayes — descrição e implementação em Python [Internet]. Medium. 2023 [cited 2024 Nov 10]. Available from: https://joaoclaudionc.medium.com/o-algoritmo-naive-bayes-descri%C3%A7%C3%A3o-e-implementa%C3%A7%C3%A3o-em-python-35757ade6b36.