Géo-calcul et apprentissage statistique (avec <i class="fab fa-r-project " style="color:#384CB7;"></i>) exemples et éléments de discussion

class: center, middle, inverse, title-slide

# Géo-calcul et apprentissage <br>statistique (avec <i class="fab  fa-r-project " style="color:#384CB7;"></i>)<br>exemples et éléments de discussion
### Cyrille Conord<br>
### 29 juin 2020

---

# Geocomputation & statistical learning 
.pull-left[
![](images/geocomputation.png)]

.pull-right[
.content-box-blue[
"***Statistical learning is concerned with the use of statistical and computational models for identifying patterns in data and predicting from these patterns.***" [LNM19]]
.tiny[
"*Approche plus créative, expérimentale et basée sur la création d'outils que la géographie quantitative.*"
- étroitement liée aux SIG
- mais en mode console
- basée sur des *Read–Eval–Print Loop*
- emphase sur la **reproductibilité**
]] .footnote[<https://geocompr.robinlovelace.net/>]]

---
layout: TRUE
# Algorithmique vs Statistique ?
## Breiman 2001: "**Statistical modeling: the two cultures**"[B01]

--
.pull-left[
.center[
![:scale 100%](images/breiman-2cultures.png)
.content-box-yellow[
.small[
modélisation statistique<br>vs<br> modélisation mécanistique]]
]]

???
- data-model: les données sont générées par un modèle de donnée stochastique
- algorithmic-model: le mécanisme aboutissant aux données est traité comme inconnu

- culture algorithmique = un 3ème front dans la controverse fréquentiste vs bayésien

--
.pull-right[
Plusieurs cultures:
- quantiles
- méthodes de maximum d'entropie
- méthodes "*robustes*"
- méthodes bayésiennes
- ...
]

???
Chaque statisticien d'une chapelle se demandant pourquoi tous ne pensent pas comme lui

---
layout: false
# Apprentissage automatique / Machine Learning ?
.content-box-blue[
Machine Learning (ML) is a research field grounding in computer science that concentrates on induction algorithms and on other algorithms that can be said to ‘learn’
]

.content-box-blue[
"*A computer program is said **to learn from experience** .hlb[E] with respect to some class of **tasks** .hlb[T] and **performance measure** .hlb[P], if its performance at tasks in T, as measured by P, improves with experience E*" Mitchell, 1997 in Bierneat 2015
]

---
layout: false
class: inverse center middle text-white

.font200[Quelques exemples d'application <br>en environnement]

---
# SoilGrids250m
<img src="images/article-soilgrids250m.png" width="100%" style="display: block; margin: auto;" />

---
# SoilGrids250m

.footnote[<https://www.isric.org/explore/soilgrids><br><https://soilgrids.org/>]

---
# SoilGrids250m
<img src="images/workflow-soilgrids250m.png" width="70%" style="display: block; margin: auto;" />

.footnote[Fig 5 de Hengl **et al.** 2017]

---
# Predictive Soil Mapping with R
<iframe src="https://soilmapper.org/" width="100%"
align="center" height="400" scrolling="auto" frameborder="0"
allowtransparency allowfullscreen style="border:none;"></iframe>

---
# CarHab2: Cartographie prédictive des Habitats
.center[
.content-box-green[
`\(Pr(Y)=f(Relief,Bioclimat,Lithologie)\)`
]]

???
- la différence entre une cartographie *effective* et *prédictive* tient à l'extrapolation d'un modèle à tout un masque géographique sous l'hypothèse d'un groupe de conditions bioclimatiques et biophysiques *NON PERTURBEES* ie *CONSTANTES*

- `\(Y\)` = la variable cible
- `\(Y\)` peut être un type de végétation ou un biotope
- `\(Y\)` a donc un nombre fini d'états = un problème de classification

--
.left-column[
.tiny[
- .hlb[T]: classification de types de végétation ou de biotopes
- .hlb[P]: % de pixels bien assignés au type
- .hlb[E]: apprentissage sur BDD tirée de l'expérience des botanistes des réseaux de CBN & Muséum NHN
]]
.right-column[
![:scale 60%](images/hengl2018RF-fig1.png)
]

.footnote[Fig 1 de Hengl **et al.** 2018 [Hen+18]]

---
# Ex: séries de végétations du Cher (18)

---
# A la recherche d'une carte "*d'erreur*"
## quelle carte compagne ?
.left-column[
42 classes de végétation: un support (votes de l'algorithme) de moins de 60% apparaît dramatique mais un indice de Shannon (degré de confusion entre les classes) de 60% indique une faible confusion. 
]

.right-column[
![](images/carhab-cherV4_incetitudes.png)
]

---
layout: true
# Défis: dériver l'erreur de prédiction ...
## ... aux nouveaux emplacements ...

---

.left-column[
... dans:
- .hlb[l'espace]
]

.right-column[
![:scale 60%](images/Roberts2017-fig1-spatial.png)
]

---

.left-column[
... dans:
- l'espace
- .hlb[le temps]
]

.right-column[
![:scale 60%](images/Roberts2017-fig1-spatial-temporal.png)
]

---

.left-column[
... dans:
- l'espace
- le temps
- .hlb[d'autres structures de dépendence]
]

.right-column[
![:scale 60%](images/Roberts2017-fig1-spatial-temporal-autre.png)
]

---

.left-column[
... dans:
- l'espace
- le temps
- d'autres structures de dépendence
- d'autres structures .hlb[hiérarchisées: ex phylogénie]
]

.right-column[
![:scale 60%](images/Roberts2017-fig1.png)

.footnote[
Fig1 Roberts et al. 
[Rob+17]
]
]

---
layout: false
# Défis: dériver l'erreur de prédiction ...
## ... côté outils ...
### => validation tenant compte du contexte spatial

.left-column[
.center[
- ![:scale 50%](images/logo-blockCV.png)
]
.center[
- `R::mlr`
]]

.right-column[
- blockCV: an <i class="fab  fa-r-project " style="color:#384CB7;"></i> package for generating spatially or environmentally separated folds for k-fold cross-validation of species distribution models
[Val+18]

![:scale 70%](images/capture-geocomputation-spatialcv.png)
]

---
layout: true
# Défis: dériver l'erreur de prédiction ...
## ... côté philo / éthique de la prédiction...

.content-box-red[.center[
"* **Cacher** l'incertitude pour éviter une mauvaise utilisation ? ou<br>**la communiquer** pour maximiser l'appropriation des résultats d'expertise?*" [Bez+99]
]]

---

.center[
![:scale 40%](images/risque.png)]
]

---

.center[
![:scale 50%](images/risque-lesautres.png)]
]

---
layout: false

class: fullscreen, inverse, top, center, text-white
background-image: url("images/VisionMachine_dark.jpg.png")
background-size: 80%
.font200[
** explicabilité : le compromis<br>entre précision et simplicité / interprétabilité<br>du modèle**
]

---
layout: true
# Défis: explicabilité / interprétabilité
## Pour quoi faire ?: pourquoi le modèle prédit ce qu'il prédit ?!

---

.pull-right[
![:scale 55%](images/iml.png)
]

???
- Vous pouvez remplacer **Humain** par **Financeur** ou **Décideur** :-)
- Si humain = chercheur

---

.pull-left[
- pour **.hlb[E/T/P]** où IA **.hlb[<]** Humain, alors: identifier les échecs de la machine
]

.pull-right[
![:scale 55%](images/iml.png)
]

---

.pull-left[
- pour **E/T/P** où IA **<** Humain, alors: identifier les échecs de la machine
- pour **.hlb[E/T/P]** où IA **.hlb[~]** Humain, alors: faire augmenter la confiance chez l'humain utilisateur
]

.pull-right[
![:scale 55%](images/iml.png)
]

---

.pull-left[
- pour **E/T/P** où IA **<** Humain, alors: identifier les échecs de la machine
- pour **E/T/P** où IA **~** Humain, alors: faire augmenter la confiance chez l'humain utilisateur
- pour **.hlb[E/T/P]** où IA **.hlb[>]** Humain, alors: faire augmenter la confiance chez l'humain utilisateur
]

.pull-right[
![:scale 60%](images/iml.png)
]

---
layout: false
# Défis: explicabilité / interprétabilité ...
## ... du côté des réseaux de neurones ?

.tiny[L'algorithme devient capable de localiser ce qui l'a conduit (feature dans l'image) à assigner l'image à une classe. Il devient possible d'évaluer la confiance à mettre dans l'algorithme s'il est BON et sait montrer comment il a fait [Sel+17]
]

.pull-left[
![:scale 50%](images/capture-selvaraju2017grad_dogcat.png)]
.pull-right[
![:scale 95%](images/capture-selvaraju2017grad_cavalier.png)]

.tiny[
Ca a l'air super mais... HELP ! 
- traduire ça en paramètres biophysiques et types de végétations ?
- aussi simple pour "convaincre" l'expert botaniste ?
]

---
# Google Earth Engine

.content-box-yellow[
*[...] an integrated platform **designed to empower** not only traditional remote sensing scientists, but also **a much wider audience** that lacks the technical capacity needed to utilize traditional supercomputers or large-scale commodity cloud computing resources.* [Gor+17]
]
.content-box-yellow[
*The overarching goal of Earth Engine is to make progress on society's biggest challenges by making it not just possible, but easy, to monitor, track and manage the Earth's environment and resources. Doing so requires providing access not just to vast quantities of data and computational power, but also **increasingly sophisticated analysis techniques**, and **making them easy to use**.*
]

--
Zéro occurrence des mots ***fiabilité***, ***incertitude*** dans le papier publié dans **Remote Sensing of Environment** [Gor+17]...

---
# Google Earth Engine
<iframe src="https://earthengine.google.com/case_studies/" width="100%"
align="center" height="400" scrolling="auto" frameborder="0"
allowtransparency allowfullscreen style="border:none;"></iframe>

.footnote[<https://earthengine.google.com/>]

---
layout: true
# Défis: explicabilité / interprétabilité ...
## De la black-box à la glass-box

---

.content-box-blue[
*Most of all, rising legal and privacy aspects, e.g. with the new European General Data Protection Regulations GDPR, make black-box approaches difficult to use, because they often are not able to explain .hlb[why a decision has been made], e.g. **why two objects are similar**.*
 [Hol+17]]

---

- => ne pas inclure l'humain seulement lors de la sélection des données ou des variables mais **aussi durant la phase d'apprentissage en interaction directe** avec  l'algorithme

???
Approche Humain est dans la boucle

--
- => plus d'un humain entre dans la boucle:
  - études contributives et participatives
  - ludification

--
- .content-box-red[Quelle interface pour les données spatialisées ? Intégration avec les outils géomatiques ?]

---
### Réflexions en médecine pour coupler ML et Prise de Décision
.left-column[
.small[
- A: premier stade : l'humain joue le rôle de l'algorithme
- B: retour à l'utilisateur (modèle très rapide)
- C: collaboration: l'humain modifie l'algorithme durant son exécution
]]
.right-column[
![:scale 80%](images/capture-interactiveML.png)
[Hol16]
]

???
De gauche à droite:
- data
- algorithme
- modèle

---
layout: true
# TransAlgo
.small[
.content-box-yellow[
"*Plateforme scientifique pour le développement de la transparence et de la redevabilité des algorithmes et des données*"
]]

---

![:scale 70%](images/capture-transalgo.png)

---
.left-column[
### Recherches sur le site:
]
.right-column[
<div class="figure">
<img src="index_files/figure-html/unnamed-chunk-7-1.png" alt="consultation le 09/01/20" width="720" />
<p class="caption">consultation le 09/01/20</p>
</div>
]

---
layout: false
# TransAlgo
<iframe src="https://www.transalgo.org/category/domaine-d-application/" width="100%"
align="center" height="400" scrolling="auto" frameborder="0"
allowtransparency allowfullscreen style="border:none;"></iframe>

---
layout: false
class: inverse center middle text-white

.font200[Côté outils<br>Interfaces de programmation ML<br>sous<br>![:scale 25%](images/logo-R.png)]

---
# Interfaces ou meta paquets
\>**500** bibliothèques individuelles pour des tâches de **classification**, **régression** , **clustering** etc...

.pull-left[
![:scale 70%](images/outils-bordel.jpg)
]

--
.pull-right[
![:scale 70%](images/outils-ranges.jpg)
]

---
layout: true

# Unification des tâches quel que soit l'algorithme

---

.pull-left[
.tiny[
- pré-traitement des variables (normalisation, recodage, binarisation, synthèse (ACP)...)
- extraction de variables
- sélection de variables
]]

.pull-right[
.pull-left[
<img src="images/mlr-feature_selection.png" width="60%" />
]
.pull-right[
<img src="images/mlr-feature_filtering.png" width="60%" />
]]

.pull-right[
<img src="images/mlr-hyperparameters.png" width="30%" />
]

---
.pull-left[
.tiny[
- pré-traitement des variables (normalisation, recodage, binarisation, synthèse (ACP)...)
- extraction de variables
- sélection de variables
- imputation
- partitionnement des données (validation, test, train)
- exploration des hyper-paramètres
- entraînement du modèle
- prédiction utilisant un modèle
]]
.pull-right[
<img src="images/mlr-training.png" width="30%" />
<img src="images/mlr-predict.png" width="30%" />
]

---
.pull-left[
.tiny[
- pré-traitement des variables (normalisation, recodage, binarisation, synthèse (ACP)...)
- extraction de variables
- sélection de variables
- imputation
- partitionnement des données (validation, test, train)
- exploration des hyper-paramètres
- entraînement du modèle
- prédiction utilisant un modèle
- mesurer la performance
- ré-échantillonnage
- parallélisation
- benchmarking de modèles
- visualisation (de chacune des étapes précédentes): ex: importance des variables
- ensembling
]]

.pull-right[
.content-box-red[
- besoin de standardisation de la syntaxe pour ces opérations
- => "***meta-package***"]]

---
layout: false
# Deux principaux paquets
## `R::caret`
.left-code[
"*The  *`caret` *package (**C**lassification **A**nd **RE**gression **T**raining) is a set of functions that attempt to streamline the process for creating predictive models.*"

.footnote[<https://topepo.github.io/caret/index.html>]
]
.pull-right[
![:scale 50%](images/book-kuhn.png)
]

---
# Deux principaux paquets
## `R::mlr` (et `R::mlr3`)
.center[
![:scale 70%](images/mlr3verse.svg)
]

---
# D'autres interfaces ~ meta
- `\(h_{2}0\)`
- CORELeaRn
- RWeka (langage Weka)
- SuperLearner
- ...
- et bien sûr dans d'autres langages tel `Python::scikitlearn`

---
# Des paquets pour l'interprétation des modèles ML...
.center[
![:scale 20%](images/logo-dalex.png)
![:scale 20%](images/logo-iml.png)
![:scale 20%](images/logo-lime.png)
]

---
# Pour finir

- Les approches dite "*génératives*" pourraient permettre d'échapper à la dichotomie déduction/induction
  - ex: celle des "*Modèles Hiérarchiques Bayesiens (MHB)* [qui peuvent] *réconcilier la modélisation statistique avec la modélisation mécaniste*" [Rob+16]
  - ex: simulation basée sur les agents
  - ex: GAN (DeepL Generative Adversarial Networks)
  
- tellement d'outils... .hlb[model mining ?] ^^'

- attention à l'encapsulation des algorithmes et de leurs paramètres (cf présentation de POM)
- sous <i class="fab  fa-r-project " style="color:#384CB7;"></i> les implémentations 'spatiales' pour ML sont assez récentes (2018)
- un lexique français-anglais pour naviguer ![:scale 20%](images/logo-datafranca.png)

--
- MERCI !

---
# Références
.tiny[
[B01] L. Breiman and others. "Statistical modeling: The two cultures (with
comments and a rejoinder by the author)". In: _Statistical science_ 16.3 (2001),
pp. 199-231.

[Bez+99] N. Bez, U. Marbec, F. Laloë, et al. "IN-CERTITUDES pour l'aide à la
décision". Fr.  (), p. 19.

[Gor+17] N. Gorelick, M. Hancher, M. Dixon, et al. "Google Earth Engine:
Planetary-scale geospatial analysis for everyone". In: _Remote Sensing of
Environment_ 202 (2017), pp. 18-27.

[Hen+18] T. Hengl, M. Nussbaum, M. N. Wright, et al. "Random Forest as a generic
framework for predictive modeling of spatial and spatio-temporal variables". In:
_PeerJ Preprints_ 6 (mai. 2018), p. e26693v2. ISSN: 2167-9843. DOI:
[10.7287/peerj.preprints.26693v2](https://doi.org/10.7287%2Fpeerj.preprints.26693v2).

[Hol+17] A. Holzinger, M. Plass, K. Holzinger, et al. "A glass-box interactive
machine learning approach for solving NP-hard problems with the
human-in-the-loop". In: _arXiv preprint arXiv:1708.01104_ (2017).

[Hol16] A. Holzinger. _Machine Learning for Health Informatics: State-of-the-Art
and Future Challenges_. Vol. 9605. Springer, 2016.

[LNM19] R. Lovelace, J. Nowosad, and J. Muenchow. _Geocomputation with R_. CRC
Press, 2019. ISBN: 1-138-30451-4.

[Rob+16] S. Robert, S. Büttner, C. Röcker, et al. "Reasoning under uncertainty:
Towards collaborative interactive machine learning". In: _Machine learning for
health informatics_. Springer, 2016, pp. 357-376.

[Rob+17] D. R. Roberts, V. Bahn, S. Ciuti, et al. "Cross-validation strategies
for data with temporal, spatial, hierarchical, or phylogenetic structure". In:
_Ecography_ (2017), pp. n/a-n/a. ISSN: 1600-0587. DOI:
[10.1111/ecog.02881](https://doi.org/10.1111%2Fecog.02881).

[Sel+17] R. R. Selvaraju, M. Cogswell, A. Das, et al. "Grad-cam: Visual
explanations from deep networks via gradient-based localization". In:
_Proceedings of the IEEE International Conference on Computer Vision_. 2017, pp.
618-626.

[Val+18] R. Valavi, J. Elith, J. J. Lahoz-Monfort, et al. "blockCV: an R package
for generating spatially or environmentally separated folds for k-fold
cross-validation of species distribution models". In: _bioRxiv_ (2018), p.
357798.
]