Archives de l’auteur : Stéphane Vautier

0b. Preparing a Précis of Methodology for Psychologists who Think Freely

I would like to contribute to a public controversy about the methodology of scientific research in psychology. I hope to draw attention of people who feel concerned on the way psychological research is conducted, in order to enable them to comment freely on ideas to be detailed and organized in a book on the methodology of psychological research.

The public debate that is possible on the web is helpful in elaborating such a book. Instead of thinking to oneself then to publish, I would prefer to formulate criticisms and propositions already submitted to critical appraisal of people who, at some point, feel concerned. I wish to encourage opinions (disputable by definition) and questions (even not well formulated).

My main criticisms can be summed up under the following four headings: (1) Responses to test items are not measurements if they are not simply ordered. (2) To save the belief that test scores are measurements, the test validation doctrine requires the epistemological norm according to which logical validity of reasoning is not mandatory in psychological science, which entails that the resulting discourse is not scientific. (3) More generally, mainstream methodology aims at saving the belief that psychological theories are explanatory and testable. (4) But such a belief grows to the detriment of the simple idea that a scientific explanation of empirical facts consists in arguing for testable, sufficient or necessary conditions to these facts.

I propose that psychological scientists should be accustomed to the ideas that (1) scientific investigation in their fields of specialization is useful to explore our objective ignorance of the laws that would govern what occurs in the currently available descriptive windows, rather than to built a fallacious sense of understanding or mastering of how people (and animals) behave– such a perspective does not preclude the discovery of general facts if they exist; it precludes the institutionalization of a form of modern obscurantism in academic psychology–; (2) psychological assessment based on psychological tests should be reframed in the the context of a philosophical, socio-cultural, economic, and politic analysis of decision making under uncertainty, as what is at stake is assigning values to people in ad hoc, non-natural evaluative spaces.

17a. Combien font deux oranges plus trois citrons ? Le méli-mélo conceptuel de Laveault et Grégoire

Dans leur « Introduction aux théories des tests en psychologie et en sciences de l’éducation » (2002), Dany Laveault et Jacques Grégoire abordent la notion de score composite, « résultat de l’addition des scores aux items du test » (p. 98), en posant la question « combien font deux oranges plus trois citrons ? ». On pourrait voir dans le choix d’un tel titre de paragraphe l’intention de critiquer l’usage des scores composites : « et » n’est pas « plus » et les scores composites ont une signification obscure. Mais quand on lit la suite, on se rend compte que la portée critique de la question semble leur échapper : les auteurs exposent trois façons d’y répondre :

« 1. nous pouvons refuser de faire l’addition, considérant qu’il s’agit de deux catégories différentes ;

2. nous pouvons ramener chaque ensemble à un ensemble qui les contient tous les deux (p.e. la catégorie des fruits) et effectuer l’opération à l’intérieur de cet ensemble plus large. Dans notre exemple, la réponse est alors ‘cinq agrumes’ ou ‘cinq fruits’ ;

3. nous pouvons aussi ignorer les caractéristiques communes à chaque ensemble et répondre comme plusieurs jeunes enfants de six ans : ‘deux pommes plus trois oranges font cinq compotes' » (p. 98).

Les auteurs poursuivent en établissant un parallèle entre ces trois attitudes et trois manières de justifier le score composite. La première attitude consiste à justifier un « profil de scores », c’est-à-dire un profil de sous-scores composites, chaque sous-score correspondant à un sous-test du test. La seconde attitude, justifiant le score composite, consiste à négliger les spécificités des items pour s’en tenir au « postulat qu’il ont tous au moins quelque chose en commun » (p. 98). La troisième solution consiste à restreindre la signification du score composite à un comptage : « A la question de départ, les réponses ‘cinq végétaux’ ou ‘cinq choses’ n’ont de précis que le chiffre » (p. 98).  Ce billet identifie quatre erreurs dans leur propos.

1. L’analogie entre addition des scores élémentaires et addition d’objets hétéroclites

Dans l’analogie, les scores aux items (les scores élémentaires) du test jouent le rôle d’objets hétéroclites (deux oranges, o1, o2 et trois citrons c1, c2 et c3). Mais l’analogie s’arrête quand on s’aperçoit de ce que, si les oranges et les citrons de l’ensemble {o1, o2, c1, c2, c3} peuvent constituer des unités de compte fondées sur l’abstraction (combien de fruits et, de manière plus générale, d’objets, compte-t-on ?), les scores élémentaires ne sont pas nécessairement des unités de compte. On peut compter le nombre de réussites lorsque les réponses aux items sont scorées 1 pour réussite et 0 pour échec ; par exemple, on compte trois réussites dans le 6-uplet (0, 0, 1, 0, 1, 1). Lorsque les formats de réponse sont des échelles de Likert, les scores élémentaires n’ont pas de signification comptable (pour une approche détaillée de la réponse à un test, voir 42a) ; par exemple, que compter dans le 5-uplet (2, 5, 2, 1, 7), où les nombres indiquent un degré d’accord sur une échelle de Likert en sept points ?

Justifier l’additivité des scores élémentaires en utilisant l’analogie d’une collection d’objets suppose de restreindre le propos aux tests formés par des items dont la réponse est décrite dans le référentiel {échec, réussite}. Ne pas expliciter cette restriction, c’est commettre une erreur de généralisation : on peut additionner les réussites donc (invalidité logique) tous les score élémentaires sont additifs (au sens du comptage de certains types d’événements).

2. Des sous-scores pour des sous-catégories

On peut très bien distinguer des catégories d’items comme on distingue la catégorie des oranges de celle des citrons ; par exemple, dans un test de personnalité, on pourra distinguer les items d’anxiété des items de dépression. On pourra dénombrer les items de chaque catégorie mais cela n’implique pas que les scores élémentaires aux items d’une même catégorie soient additifs. Or qui dit « profil de scores » dit « additivité » des scores aux items d’une certaine catégorie.

Laveault et Grégoire n’explicitent pas le problème de l’additivité des scores élémentaires parce qu’ils n’explicitent pas le problème du mesurage : en quoi un score élémentaire est-il une mesure ? Si un score élémentaire est une mesure, c’est une mesure ordinale, c’est-à-dire que ce score est le résultat d’un processus de mesurage qui, à toute quantité d’une certaine grandeur, permet l’attribution d’un certain score élémentaire. Ce processus est formalisé par une fonction croissante par palier (cf. 5a et cours de mesurage, vidéo 3). Si on suppose que les scores élémentaires de (2, 5, 2, 1, 7) mesurent la même quantité q via cinq fonctions de mesurage (une par item), chaque score désigne un segment de quantités qui contient q et l’addition des scores consiste, par hypothèse, à additionner des segments, ce qui n’a pas de sens parce que l’addition n’est pas définie sur des segments. Ainsi, une deuxième erreur dans le propos des auteurs consiste à ne pas spécifier le problème théorique que posent les scores composites lorsqu’on veut les interpréter comme des mesures (voir aussi, pour une approche formalisée, 11a).

3. Évaluer

Une troisième erreur de Laveault et Grégoire consiste dans l’omission de la finalité évaluative des scores composites. La note d’une copie a pour vocation non pas de mesurer quoique ce soit mais de donner une valeur sociale à un étudiant via sa copie : l’étudiant obtiendra (ou pas) telle unité de valeur et, finalement, tel diplôme. Le score à un test est utile s’il permet de conférer à l’individu qui a obtenu ce score une certaine valeur psychologique (par exemple, on dira que ses fonctions cognitives sont efficientes, déficientes, normales, ou que sa personnalité est normale ou pathologique, en s’appuyant sur une norme psychotechnique).

Si on réalise que, comme dans une copie, les scores élémentaires sont des unités de valeur relatives à un certain construit (et peu importe que ce construit soit « pur » ou bien « composite »), il n’y a plus de problème d’additivité puisqu’on additionne des unités de valeur dans le cadre d’une convention sociale d’évaluation. La question à laquelle on peut répondre n’est pas « combien font deux oranges plus trois citrons », mais « que valent deux oranges et trois citrons ? » Si les oranges et les citrons forment un lot, l’addition des valeurs de chacun de ces fruits est la valeur du lot qu’ils composent — comme en économie, où le prix rend (la valeur de) toute chose comparable à (la valeur de) toute autre chose (voir aussi Jacquard, 1991, chapitre « L’économie de marché, masque de la réalité »).

4. Additionner des scores d’items suppose de postuler que « ces items mesurent sensiblement le même trait » (p. 98)

Une quatrième erreur contenue dans le propos des auteurs réside dans le rejet implicite du principe logique de non-contradiction. Quelle définition du mesurage serait compatible avec la possibilité de mesurer « sensiblement le même trait » ? Soit les items considérés mesurent le même trait (où « trait » est synonyme de « grandeur »), soit ils mesurent des traits distincts. Comment concevoir que deux traits distincts soient « sensiblement » identiques ? L’idée du « sensiblement le même » est une impossibilité logique : « être le même que » est une relation d’équivalence :  a est le même que b ou bien il ne l’est pas.

5. Conclusion

Si on reconnaît que les scores servent à situer les gens dans des échelles de valeurs, comme les prix servent à donner une valeur monétaire à toute chose qui tombe dans le domaine du marché1, alors on reconnaît que le problème de la validation des tests est un problème de philosophie sociale. Ce problème consiste à savoir comment se fabrique un « marché » des valeurs psychologiques et comment ce marché fixe les « prix » — la technique classique consistant à établir ce qu’on appelle malicieusement, dans la doctrine, un étalonnage, ce qui n’a rien à voir avec l’étalonnage instrumental, par exemple l’étalonnage d’un pH-mètre. Et on reconnaît que l’évaluation psychotechnique relève des sciences sociales comme le droit et l’économie : c’est cet aspect proprement social, par opposition à naturel, que la doctrine de la validation des tests escamote en habituant ses thuriféraires à l’idée que les tests sont des instruments de mesure.

Référence

Jacquard, A. (1991). Voici le temps du monde fini. Paris : Seuil.

Laveault, D. & Grégoire, D. (2002). Introduction aux théories des tests en psychologie et en sciences de l’éducation (2e éd.). Paris : De Boeck Université.

Cite this article as: Stéphane Vautier, "17a. Combien font deux oranges plus trois citrons ? Le méli-mélo conceptuel de Laveault et Grégoire", in Épistémologie de la psychologie, 28/05/2014, https://epistemo.hypotheses.org/1243.

  1. Par exemple, le marché du droit à polluer monétarise l’environnement naturel. []

16a. La théorie classique des tests : un triple désastre scientifique

La théorie classique des tests sous-tend la plupart des travaux de validation des tests psychologiques mais n’explique pas comment tout score mesure une quantité. Elle interprète seulement tout score comme le résultat d’une expérience aléatoire. Cette expérience aléatoire est modélisée par une loi de probabilité qui, à tout score possible au moment où la personne à laquelle on s’intéresse est testée, associe une probabilité. Munir l’ensemble des scores possibles d’une loi de probabilité permet de définir une variable aléatoire numérique caractérisée par une espérance mathématique. Cette espérance mathématique est requalifiée en « score vrai », si bien qu’en vertu de cette construction mathématique, tout score est doté du score vrai et d’une erreur de mesure, résidu arithmétique qui comble l’écart entre le score et le score vrai.

Si les utilisateurs de scores considèrent que ceux-ci contiennent un score vrai et dès lors qu’ils utilisent une interprétation réaliste naïve de la notion de vérité (le score vrai est le score réel), ils peuvent tout naturellement croire que les scores mesurent le score réel. Mais la théorie classique des tests les empêche de revendiquer la validité logique des interprétations élémentaires qu’ils peuvent faire des scores, à cause de l’absence de restriction de l’erreur de mesure. Par exemple, ce n’est pas parce que Paul  a vu son score d’anxiété diminuer d’hier à aujourd’hui que son score vrai a diminué ni que son anxiété a diminué. Et encore, Paul a un QI plus élevé que Julie, mais cela n’implique pas que le QI vrai de Paul soit supérieur au QI vrai de Julie. Par conséquent, adopter la théorie classique des tests comme cadre statistique pour la validation des tests revient à adopter la norme épistémologique selon laquelle des interprétations logiquement invalides sont acceptables pour une pratique d’utilisation des scores qui revendique la scientificité — on admet dans la communauté des psychologues que les tests sont « scientifiquement validés ».

Du point de vue scientifique, l’emploi de cette théorie est un triple désastre.  Tout d’abord, en remplaçant l’exigence de « validité logique » par celle de « validation sociale », elle brouille la signification de ce qu’est une conclusion scientifiquement fondée. Pour qu’une conclusion, déduite d’une théorie et de certaines observations, soit scientifiquement fondée, il faut que les observations soient objectives à défaut d’être vraies (qui sait prouver qu’elles sont vraies ?) et que la théorie qui permet de les interpréter soit corroborée, c’est-à-dire testée avec succès (i.e., testée et pas falsifiée).

Ensuite, l’emploi de la théorie classique des tests permet aux psychologues d’ignorer que mesurer une grandeur grâce à l’observation de certains phénomènes suppose (condition nécessaire) que ces phénomènes s’inscrivent dans un ordre simple. La vérité de cette dernière proposition est testable (voir la notion de fonction de mesurage) et elle est invraisemblable (voir la définition).

Enfin, en établissant l’agrégation numérique des faits qualitatifs comme canon de la description objective pour édifier une psychologie quantitative, elle incite les psychologues chercheurs à sous-estimer les enjeux théoriques de toute méthodologie descriptive (voir la discussion du kappa de Cohen ou l’article Anecdotes statistiques inexpliquées par exemple), en institutionnalisant notamment l’ignorance de la différence conceptuelle entre ordre simple et ordre partiel ; laquelle, à ma connaissance, n’est exposée que par un manuel de méthodologie en psychologie — « An introduction to the logic of psychological measurement » de Joel Michell (1990).

Cet article développe les points qui précèdent (1) en précisant le concept de score vrai, (2) en déduisant que la comparaison de deux scores considérés comme mesures relève de la divination, (3) en soulignant que la modélisation probabiliste n’a rien à voir avec la théorisation de fonctions de mesurage, et (4) en concluant que les scores psychotechniques ne devraient pas masquer les m-uplets empiriques sur lesquels ils reposent.

1. Le score vrai

Le concept de score vrai contenu dans un score repose sur deux concepts, à savoir une échelle de scores possibles et une distribution de probabilité qui, à tout score, associe une probabilité. A ma connaissance, la théorie classique des tests, comme toute théorie psychométrique, ne se pose pas la question de savoir si les probabilités existent et comment on pourrait les connaître de manière testable.

Supposons une échelle de k scores xi, i = 1, 2, …, k. La théorie postule la loi de probabilité {pi, i = 1, 2, …, k} (ce qui implique que la somme des probabilités est égale à 1). Elle postule ainsi une variable aléatoire dont l’espérance est, par définition, la somme des scores de l’échelle pondérée par leurs probabilités, soit

score vrai = p1 x1 + p2 x2 + … + pk xk = Σ pi xi.

2. Comparer deux scores, c’est faire de la divination

On voit bien les difficultés insurmontables que pose cette approche pour l’utilisation élémentaire des scores : comment déduire de deux scores quoi que ce soit concernant les scores vrais ? Par exemple, Paul et Julie ont un QI de 120 et 130 points, respectivement. Peut-on en déduire que le QI vrai de Paul est inférieur au QI vrai de Julie ? Comme on ignore les lois de probabilité postulées pour interpréter les deux QI comme le résultat de deux expériences aléatoires, on ignore les deux scores vrais. Le score vu par la théorie classique des tests est au désir du psychologue ce que la boîte de Saint-Exupéry est au désir du Petit Prince : une boîte pour un mouton inaccessible, une coquille statistique pour un nombre inaccessible.

3. Le score vrai ne mesure rien

L’idéalisation dont procède la postulation de lois de probabilité proliférant dans un espace métaphysique masque le problème fondamental du mesurage. Le mesurage repose sur une métaphysique de la quantité, qui ne coïncide pas avec celle des probabilités. En effet, une probabilité est une quantité non mesurable (pour un autre angle d’attaque, voir aussi la section 2 de l’article 22).

Si une probabilité était mesurable, on saurait invoquer une fonction croissante qui, à tout point de [0, 1], associe un et un seul point dans un ensemble de valeurs observables. Je ne vois pas ce que peut être un tel ensemble et il est clair que l’ensemble des fréquences ne convient pas, puisqu’une probabilité quelconque de ]0, 1[ est associée à au moins deux fréquences observables. Il suffit d’envisager au moins deux expériences aléatoires fondées sur la même loi de probabilité et dont les résultats sont différents. Par exemple je lance une pièce et j’observe pile. Je lance la même pièce et j’observe face. La fréquence de l’événement « pile » associée à la probabilité 1/2 est 1 si je considère la série « pile », 1/2 si je considère la série « pile, face ».

La théorie classique des tests brouille le concept de mesurage, puisqu’elle détourne l’attention du processus de mesurage dont le score devrait être le résultat, en la focalisant sur le score vrai, dont la valeur reste néanmoins inaccessible, même par encadrement (i.e., par minoration et majoration).

4. Les scores sont des événements qualitatifs composés

En tant que théorie statistique, la théorie classique des tests oblitère la signification empirique, expérimentale, ou encore instrumentale des scores. Les scores de tests sont traités comme des données au sens propre du terme. Le psychométricien ne veut rien savoir de leur origine, il les accepte sans réserve, abandonnant au psychologue (non statisticien) la responsabilité de leur fabrication. Une telle division du travail est constitutive d’un jeu de dupes qui s’organise au service de l’impossibilité de rejeter les scores pour inadéquation scientifique.

L’article Scorage vs. mesurage détaille le processus de fabrication des scores à l’aide des notions de fonctions descriptive et de scorage. La première, notée X, associe un m-uplet de réponses à toute unité d’observation ; la seconde, A, associe un score à tout m-uplet. Pas de score sans m-uplet. La division du travail instituée par la théorie classique des tests, par son cantonnement à l’analyse statistique des scores, permet que la communauté entière des utilisateurs de scores puissent ne pas buter sur l’évidence selon laquelle, pour mesurer une grandeur avec des observables, il faut que ces observables soient simplement ordonnés. Or les observables psychotechniques sont des m-uplets.

Comment ordonner simplement des m-uplets ? Par exemple, comment ordonner (0, 0, 1) et (1, 1, 0) ? Ou encore, comment ordonner simplement les points flottant dans un cube ? Dès lors que la démarche descriptive est multivariée, son espace de description n’est pas un ordre simple parce qu’un ordre simple est un espace à une dimension, dans lequel les objets s’échelonnent, se placent à la queue leu leu (avec possibilité d’ex æquo).

Le théoricien classique des tests omet de remarquer que 0 et 0 et 1 n’est pas 0 plus 0 plus 1. Cette omission est théoriquement condamnable, puisque la théorie des probabilités, domaine de compétence psychométrique, repose sur ce qu’Alfred Rényi, dans le premier chapitre de son traité de « Calcul des probabilités » (1966), appelle une algèbre d’événements. Le « et » logique y est défini comme un produit et non pas comme une addition, cette dernière correspondant au « ou » logique.  Le triplet (0, 0, 1) — plus généralement, un m-uplet — n’est pas une somme mais un produit logique. C’est un événement composé, une co-occurrence, ou encore une conjonction logique — du point de vue chronologique, il faut négliger le temps nécessaire à l’obtention des réponses pendant la durée du test. Il est temps que les psychologues, dans leur effort de scientificité, reprennent la main sur l’élaboration théorique de leurs données.

Références

Michell, J. (1990). An introduction to the logic of psychological measurement. Hillsdale, NJ: LEA.

Rényi, A. (1966). Calcul des probabilités. Paris: Dunod.

Cite this article as: Stéphane Vautier, "16a. La théorie classique des tests : un triple désastre scientifique", in Épistémologie de la psychologie, 28/05/2014, https://epistemo.hypotheses.org/1054.

15a. Anecdotes statistiques inexpliquées

La recherche en psychologie est friande de ce que j’appelle des anecdotes statistiques inexpliquées. En voici un exemple tiré d’un de mes groupes de TD (travaux dirigés).

Trois étudiants de seconde année de psychologie se sont intéressé à la manière dont les passants tiennent compte de la présence de mendiants selon que ceux-ci offrent ou pas un spectacle (le terme « mendiant » est ici utilisé dans un sens opérationnel : un mendiant est toute personne qui signifie aux passants qu’elle accepte de l’argent). Comme l’indique la table de contingence ci-dessous, la proportion des gens qui passent loin (à plus d’un mètre) est de 59 % lorsque le mendiant offre un spectacle et de 30 % lorsqu’il n’en offre pas.

Passants

La coutume méthodologique consiste à voir dans ce type de résultat statistique l’influence d’une variable (indépendante, VI) sur une autre (dépendante, VD) et il s’agit de démontrer un « lien » entre la VI (présence vs. absence de spectacle) et la VD (passer près vs. loin). Les étudiants sont formés à tester l’hypothèse nulle d’indépendance (stochastique) entre les deux variables, à savoir, ici, que la probabilité que la VD prenne une certaine valeur ne dépend pas de la valeur que prend la VI.

Cet article montre en quoi considérer la mise en évidence d’un effet statistique comme une fin en soi de la recherche en psychologie serait inapproprié et propose une focalisation plus théorique que statistique1. Une relation (liaison ?) statistique n’est pas nécessairement une explication déterministe ni une explication probabiliste (non-déterministe), donc pas nécessairement une explication. Pour qu’une explication soit possible, il faut qu’elle porte sur un phénomène et pour qu’un phénomène soit possible, il faut qu’il affecte une entité. Or le concept mathématique de population statistique ne suffit pas pour donner corps à un objet de science. Le statisticisme consiste à se contenter de croire que cela n’a pas d’importance.

1. Une relation statistique n’est pas forcément une explication déterministe

Supposons que les étudiants aient observé suffisamment de passants pour pouvoir exhiber le sacro-saint p < .01 qui doit accompagner le résultat, « les proportions observées sont significativement différentes ». Que le mendiant offre ou pas un spectacle n’explique pas, en un sens déterministe, le phénomène « passer près (ou loin) de celui-ci ». En effet :

  • « Offrir un spectacle » n’est pas une condition suffisante à « passer loin » parce qu’il existe 41 % de contre-exemples — la prédiction est fausse quatre fois sur 10 ;
  • « Ne pas offrir un spectacle » n’est pas non plus une condition suffisante à  « passer près » parce qu’il existe 30 % de contre-exemples.

Il est inutile de raisonner en termes de conditions nécessaires : (i) si « offrir un spectacle » était une condition nécessaire à « passer loin », « passer près » serait une condition suffisante à « ne pas offrir un spectacle », ce qui est absurde du point de vue temporel donc causal ; (ii) si « ne pas offrir un spectacle » était une condition nécessaire à « passer près »,  « passer loin » serait une condition suffisante à « offrir un spectacle », ce qui est absurde d’un point de vue temporel donc causal.

2. Une relation statistique n’est pas forcément une explication probabiliste

Dire « si les mendiants proposent un spectacle, les gens (qui ne donnent rien) ont plus tendance à passer loin », revient à invoquer une fiction sociale : « les gens », ou encore le passant typique. Or le passant typique n’existe pas du point de vue du concept de population statistique d’unités statistiques (e, t), i.e., de personnes e considérées à un moment t (voir 24a). L’hypothèse nulle porte sur l’espérance de deux variables conditionnelles : E(VD|VI = spectacle) et E(VD|VI = pas de spectacle) — dans le cas d’une variable dichotomique à valeurs dans {0, 1}, la probabilité que la VD prenne la valeur 1 est l’espérance de la VD.

Quelle hypothèse générale permettrait d’attendre une différence de proportions ? En remplaçant « les gens » par « tout passant », on obtient la proposition « tout passant a plus tendance à passer loin des mendiants si ceux-ci proposent un spectacle » (forme relative d’explication probabiliste, voir 25a, 4.2). Or ce n’est pas l’hypothèse testée puisqu’on observe certains passants une seule fois dans une seule condition au lieu d’un grand nombre de fois dans les deux conditions.

Pour défendre la stratégie de recueil des données, il faut supposer que tout passant dans quelque condition que ce soit ait la même tendance que tout autre dans la même condition. Ainsi, l’expérience aléatoire qui consiste à observer un passant n fois est équivalente à l’expérience aléatoire qui consiste à observer n passants une fois. Mais cette supposition est invraisemblable ; Paul n’est pas interchangeable avec Julie : ce sont deux personnes distinctes et on ne voit pas pourquoi ils devraient avoir les mêmes tendances.

Les fréquences rapportées dans la table de contingence ci-dessus n’estiment la tendance de personne en particulier ni de personne en général. Le support ontologique de l’effet observé consiste en deux agrégats de personnes, mais on ne sait attester cet effet chez personne.

Les résultats démontrent seulement la possibilité que la présence ou l’absence de spectacle intervienne dans le processus déterminant la distance que quiconque applique pour passer devant un mendiant (lorsqu’il ne donne rien), mais ce processus est une opacité scientifique.

Une telle affirmation de possibilité nécessite-t-elle l’effort empirique consenti ? Oui du point de vue du pouvoir : un mendiant se fait plus « respecter » s’il offre un spectacle2 ; pas vraiment du point de vue de l’explication scientifique du comportement des passants.

3. Il faut chercher des conditions nécessaires ou suffisantes au comportement observé

Qu’est-ce qui empêche quelqu’un de passer à moins d’un mètre d’un mendiant sur le trottoir ? Pas sa présence pour certains passants. Qu’est-ce qui suffit pour que quelqu’un respecte une distance d’au moins un mètre quand il passe devant un mendiant ? Pas un spectacle pour certains passants. L’analyse explicative suppose de s’intéresser non pas au passant typique qu’on dote de tendances dépendant des situations, mais à des passants particuliers. Découvrir une explication générale, c’est-à-dire valable pour tout passant, suppose qu’on dispose d’une explication pour certains passants. Et il n’est pas certain que les conditions qui sont nécessaires ou suffisantes pour Paul le soient pour Julie. La méthodologie orthodoxe, focalisée sur le « sujet typique », ignore ces remarques logiques.

Une fois qu’on admet que le problème se pose pour chaque passant, il reste à imaginer ce qui se passe pour chaque passant, qui puisse expliquer la manière dont cela détermine son comportement dans la situation cible. Par exemple, il suffit que Paul s’avise de la présence d’un mendiant pour qu’il se donne comme règle de conduite de ne pas passer trop près, quitte à s’arrêter si le passage est obstrué, à condition toutefois qu’il ne soit pas en train de fuir une menace mortelle. Paul n’a pas conscience de la présence d’un autre mendiant parce qu’il est absorbé dans ses pensées, donc il passe trop près conformément à sa trajectoire initiale. Ou bien son attention est attirée par les sons de la guitare du mendiant si bien qu’il dévie son pas pour le contourner. Julie ne perçoit pas l’impolitesse de passer à moins d’un mètre d’un mendiant ; par conséquent, même si elle remarque que celui-ci est en train de jongler, même si elle n’est pas pressée, elle pénètre dans sa « zone proximale » si sa trajectoire initiale fait qu’elle doit passer à moins d’un mètre de lui.

4. Que signifie une fréquence « de population » ?

De telles conjectures sont nécessaires si on veut expliquer le phénomène à l’échelle individuelle, mais elles ne suffisent pas forcément pour expliquer le phénomène à l’échelle de l’agrégation de personnes distinctes.

Ainsi par exemple, supposons que les gens passant à moins d’un mètre d’un mendiant avec spectacle ne jugent pas que ce comportement soit impoli (sinon, ils dévieraient leur trajectoire, en négligeant pour simplifier qu’ils se permettent d’être impolis). Dire que 41 % des passants ne trouvent pas impoli de passer à moins d’un mètre d’un mendiant consiste à invoquer la manière dont se distribuent les passants (placés dans ce type de situations) : dans la classe de ceux qui passent près ou bien dans celle de ceux qui passent loin.

Mais, puisque nous voulons ici penser statistiquement, comment définir la population statistique, ou encore la classe de référence, des passants, autrement que comme la virtualité qu’est l’ensemble de toutes les personnes qui auraient pu être des passants ? Je crois que personne ne le sait. Donc les statistiques de population décrivent on ne sait quoi.

Si bien que ce résultat statistique, dont la signification (p < .01) peut très bien être répliquée dans d’autres situations d’observation analogues, reste inexpliqué. La sophistication des méthodes de modélisation des données à laquelle on assiste en psychologie ne doit pas permettre d’oublier le manque d’explication théorique : invoquer des lois de probabilité et mobiliser des méthodes d’estimation paramétriques automatiques, ce n’est pas expliquer. Expliquer scientifiquement un comportement, c’est imaginer et tester des conditions nécessaires ou suffisantes à l’échelle de chaque personne (approche déterministe), ou bien supposer l’existence de probabilités (tendances) qu’on peut approcher via une grande quantité d’observations ; si on n’est pas en mesure d’effectuer cette grande quantité d’observations sur la même personne, l’explication probabiliste, ou encore l’idée de tendances de cette personne à se comporter d’une certaine manière selon qu’elle se trouve dans telle ou telle situation, est une spéculation dont la vérité est incontrôlable donc incontrôlée.

5. Autre exemple

Selon un autre groupe d’étudiants, quand le chauffeur du bus d’une certaine ligne à Toulouse dit « bonjour », 91 % des gens qui montent disent « bonjour » à leur tour, tandis que lorsqu’il (au sens générique) ne dit rien, cette proportion chute à 51 %. Quand il dit « au revoir », 90 % des gens qui descendent disent « au revoir » ou « merci », contre 62 % quand il ne dit rien. Jolis effets d’amorçage, qui intéressent les chauffeurs sensibles à l’amélioration du climat psychosocial dans leur bus, mais l’effet d’amorçage n’explique pas ces résultats puisque certains amorçages ne provoquent pas de comportement de politesse chez certains passagers et que ce comportement se manifeste sans amorçage chez d’autres !

Il est néanmoins envisageable de suivre une certaine personne qui prend le bus dans la durée, pour comparer par exemple la fréquence de ses « bonjour » lorsque le chauffeur dit « bonjour », à la fréquence de ses « bonjour » lorsqu’il ne dit pas « bonjour ». Beaucoup d’efforts pour un résultat modeste (voir Atlan, 1986)…

Voir aussi la conférence « Le ‘sujet’ de la santé entre science, psychanalyse et philosophie » de Bruno Falissard.

  1. les articles 24a et 25a sont peut-être des prérequis pour le lecteur. []
  2. Mais il s’expose davantage à la police municipale. []

14a. Explication, nécessité, condition suffisante vs. nécessaire

Je défends l’idée que l’explication scientifique d’un phénomène revient à invoquer une nécessité objective. Lorsqu’on recourt à la notion de loi probabiliste1, il faut admettre que l’état momentané d’une entité soit intrinsèquement indéterminé, ce qui n’est pas la même chose qu’admettre qu’il est déterminé par des causes… qu’on ignore2.

Soit un phénomène décrit par l’énoncé p. La notation a → p signifie a cause p, où a est un énoncé décrivant un autre phénomène. La proposition ‘a → p’ peut aussi se lire ‘a provoque, engendre, déclenche p’.

Considérons la proposition b → non-p : un phénomène décrit par b cause non-p, c’est-à-dire bloque, empêche p.

Si a → p et si on sait provoquer a, on sait provoquer p. Si b → non-p et si on sait provoquer b, on sait prévenir p.

Remarque 1. Dans l’expression ‘a → p’ par exemple, le signe ‘→’ ne dénote pas une implication logique, mais une relation causale. Une implication logique, qu’on écrit avec ‘=>’, a une structure d’inclusion qu’on peut représenter par le diagramme ci-dessous :

Inclusion

(x est un B) => (x est un A) car B est inclus dans A (ou encore, tous les B sont des A). Contraposée : (y n’est pas un A) => (y n’est pas un B). Il y a une analogie entre relation causale et implication logique, mais la première réfère à des réalités métaphysiques et chronologiques tandis que la seconde est formelle et atemporelle.3

Remarque 2. Une explication causale consiste à invoquer une nécessité et on peut la tester dès qu’on sait identifier que la condition suffisante est remplie ou que la condition nécessaire n’est pas remplie4

Remarque 3. Sayer (1992) critique le falsificationisme poppérien en affirmant que Popper rejetait l’idée de nécessité naturelle (p. 226). A mon avis, Sayer se trompe en prêtant un tel dogmatisme métaphysique — tout ce qui arrive est contingent — à Popper. Effectivement, si on admettait qu’il n’existe pas de nécessité naturelle, on verrait mal la possibilité d’expliquer un phénomène sur une base falsificationniste.5 La question est factuelle : existe-t-il un passage dans les textes de Popper où celui-ci exprime son refus de croire en l’existence de nécessités naturelles ? Je n’en connais aucun. Je crois plutôt qu’il dit que la prévision fondée sur des lois naturelles ne s’applique pas à des cas particuliers, « concrets », mais à des cas typiques, « abstraits ».

Référence

Sayer, A. (1992). Method in social science: A realist approach (2d ed.). London: Routledge.

  1. voir 25a, 4 []
  2. Mais j’attends la contradiction par des personnes qui seraient plus informées que moi sur l’explication probabiliste dans certains domaines de la recherche scientifique. En attendant, l’introduction des probabilités dans la méthodologie scientifique de l’explication est pour moi une source de confusion (voir par exemple 37a) ou tout au moins de perplexité (voir 50). []
  3. ce à quoi elle réfère n’a pas pour obligation de coïncider avec ces réalités ontologiques mais seulement de coïncider avec la non-contradiction (la cohérence) ; par exemple, « si un nombre est carré, alors il est positif » n’est pas une relation de cause à effet ; ce serait plutôt, à rebours, un héritage des propriétés de la multiplication de deux nombres quelconques. []
  4. voir Popper, 1992 ; Notturno, 2000. Mais chercher une explication seulement logique du phénomène me semble insuffisant (on peut seulement, et on doit, exiger qu’une explication soit logique, condition nécessaire à une explication scientifique (cf. 39a). Par exemple, le mesurage est une explication causale du phénomène observé (l’aiguille d’une balance penche à droite parce qu’elle mesure la masse et que la masse a augmenté) et sa forme mathématique est une fonction — p = F(q), où F est la fonction et q est une quantité théorique ou encore inventée ou métaphysique. []
  5. c’est-à-dire que même si on ne saura jamais si une explication est vraie, on peut chercher à la tester ; la logique formelle est utile si on peut l’articuler à la logique causale et cela demande beaucoup de soin. []

13a. Les hypothèses de mesurage du modèle de Guttman

Cet article montre que le modèle hiérarchique de Guttman, qui stipule que les descriptions auxquelles on s’intéresse sont simplement ordonnées (1), est un modèle de mesure ordinale (2) et discute l’attitude à adopter face à des observations falsifiantes (3). Ce modèle s’applique à la situation suivante : plusieurs personnes passent le même test constitué de plusieurs items et on espère pouvoir utiliser les descriptions résultantes comme des mesures permettant de comparer les élèves les uns par rapport aux autres.

1. Les descriptions sont simplement ordonnées

Dickes, Tournois, Flieller et Kop (1994, p. 140) présentent l’exemple de cinq élèves qui passent un test de quatre items, les réponses à chaque item étant cotées 0 (pour échec) ou 1 (pour réussite). L’application descriptive X: Ω → D est définie de Ω, l’ensemble de toutes les unités d’observation possibles, dans D = {0, 1}4 = {0000, 0001, …, 1111}. D contient 24 = 16 4-uplets. De manière plus détaillée, X = X1X2X3X4, avec Xi: Ω → {0, 1}, i indexant les items du test.

L’image de Ω5 = {ω1, ω3, ω3, ω4, ω5} par X, X5), est {0000, 0100, 0110, 1110, 1111}. Cet ensemble est simplement ordonné par la relation d’ordre produit direct :

0000 ≤ 0100 ≤ 0110 ≤ 1110 ≤ 1111.

2. Fonction de mesurage

Interpréter les descriptions comme mesures ordinales d’une grandeur revient à supposer qu’il existe une fonction de mesurage F: Ω5X5), c’est-à-dire qu’il existe quatre fonctions par palier croissantes Fi: Ω5 → {0, 1}, i = 1, 2, 3, 4, dont on connaît l’ordre des seuils Ai dans [0, max].

Pour déterminer cet ordre, il suffit de définir la bijection (relation univoque) de X5) dans l’ensemble ordonné (0, 1, 2, 3, 4) telle que

0000 → 0
0100 → 1
0110 → 2
1110 → 3
1111 → 4.

Si la quantité à mesurer est inférieure à tous les seuils, sa mesure ordinale vaut 0. Quel est le seuil à franchir pour que la mesure vaille 1 ? La description 0100 indique que ce seuil est A2. En effet, la fonction F2 détermine ce qu’on observe avec le second item du test et doit prendre la valeur 1 pour qu’on puisse déduire que son seuil a été franchi. Le prochain seuil à franchir pour que la mesure vaille 2 est A3 (0110). Le prochain seuil à franchir pour que la mesure vaille 3 est A1 (1110) et le dernier seuil est donc A4. Ainsi, on peut supposer qu’il existe quatre fonctions par palier croissante à seuils Ai dans [0, max] telles que A2 ≤ A3 ≤ A1 ≤ A4.

Remarque sur la notion de difficulté d’un item. On dit que le deuxième item du test est plus facile que le troisième qui est plus facile que le premier qui à son tour est plus facile que le dernier. Ainsi, le niveau de difficulté d’un item est le rang du seuil de sa fonction de mesurage. On pourra confronter cette définition à d’autres définitions galtoniennes, qui, parce qu’elles n’ont pas de caractère général, ne sont pas équivalentes, ce qui peut créer un problème d’ambiguïté voire une confusion conceptuelle dans les discussions psychotechniques (voir 19a).

3. Que faire face à des observations falsifiantes ?

Le raisonnement qui précède s’appuie sur la propriété d’ordre simple de X5). Une conséquence de cette propriété est que la taille (on dit aussi le cardinal) de X5), qui est 5, est strictement inférieure à celle de D, qui est 16 — à cause de l’impossibilité que deux éléments distincts d’un ensemble simplement ordonné soient incomparables. Soit une nouvelle unité d’observation ω6. On peut supposer que sa description résulte du mesurage de sa quantité de compétence par F et cette supposition est testable. Si X(ω6) n’appartient par à X5) qui inventorie toutes les descriptions ordonnées possibles, alors ce n’est pas une mesure de la quantité Q(ω6) par F.

L’hypothèse qu’une description psychotechnique soit une mesure paraît théoriquement invraisemblable dès qu’on admet que la réponse à des items de questionnaire dépende d’une myriade de facteurs inconnus (voir Mesurer avec des réponses à des tests : définition). Par quel miracle une personne quelconque, testée avec les quatre items du test, devrait répondre conformément à la fonction F dont on suppose l’existence sur Ω5 ?

L’attitude logique face à une observation falsifiante, i.e., qui n’appartient pas à X5), consiste à conclure qu’on ne sait pas interpréter cette observation comme une mesure ordinale d’une quantité théorique de compétence. Ce n’est pas l’attitude qui prévaut dans la doctrine de la validation scientifique des tests. L’orthodoxie consiste à adopter une stratégie dérogatoire (comme c’est aussi le cas avec les problèmes de désaccords inter-juges).

Dickes et al. (1994) expriment cette attitude de la manière suivante :

« Mais il aurait suffit de considérer un sixième élève qui aurait répondu, par exemple, [0010], pour que les données ne soient plus représentables par ce modèle, à moins de ne pas opter pour des règles aussi strictes. Jusqu’à un certain degré de dérogation, on peut encore considérer que les données s’accordent avec le modèle. Mais cela suppose qu’on se donne quelque règle supplémentaire, par exemple, qu’il n’y ait pas plus de 5 % de dérogations, pour accepter la représentation obtenue » (p. 141) — Laveault et Grégoire (2002, p. 184) mentionnent qu’en 1950, Guttman a proposé le seuil d’acceptabilité de 10 %.

Cette attitude n’est pas scientifique au sens normatif du terme, bien qu’elle soit adoptée par des personnes qui puissent se qualifier de « scientifiques » au sens de « praticiens d’une démarche scientifique ». L’attitude scientifique consiste à témoigner de l’existence d’observations falsifiantes. Proposer de considérer que ces observations soient négligeables est autre chose, cela relève d’une pratique sociale au sens de la psychologie sociale des organisations ou des institutions. Il se peut que pour des raisons non scientifiques, on ait besoin de faire comme si on savait mesurer la compétence des élèves avec ce test. Si on veut faire croire qu’on sait mesurer la compétence de ce sixième élève, on utilisera son score, 0 + 0 + 1 + 0 = 1, pour « considérer » qu’il mesure sa compétence (de manière ordinale).

Mais ce n’est pas fini. On oubliera que le score n’est qu’une mesure ordinale. Que le score soit une mesure ordinale implique qu’on ne sait pas, même si le modèle n’est pas falsifié, si deux élèves qui ont le même score ont des compétences différentes ou égales. On considèrera que leur compétences sont approximativement égales. On peut comprendre la raison d’une telle distorsion des connaissances scientifiques disponibles si on admet que l’impératif social de comparaison des élèves, c’est-à-dire d’évaluation, prime sur l’impératif d’intégrité scientifique, c’est-à-dire que les scientifiques de la réponse à des items de tests sont professionnellement conduits à affirmer l’ignorance de la signification objective, au sens réaliste du terme, des réponses aux items du test (cf. 1a et 22a), parce qu’on ne dispose pas d’une théorie testable de ces réponses qui ne soit pas falsifiée.

Les scores sont des jugements de valeur fondés sur des descriptions psychotechniques objectives (au sens qu’elles ne posent pas de problème d’accord inter-juges), et on essaie de légitimer ces jugements de valeur en expliquant qu’ils sont compatibles avec des hypothèses scientifiques fausses, mais qu’on « considère » comme acceptables par dérogation.

Références

Dickes, P., Tournois, J., Flieller, A., & Kop, J.-L. (1994). La psychométrie. Paris: Presses Universitaires de France.

Laveault, D. & Grégoire, D. (2002). Introduction aux théories des tests en psychologie et en sciences de l’éducation (2e éd.). Paris : De Boeck Université.

12a. Deux juges décrivent l’état de 19 personnes mais ne mesurent rien

Cet article illustre la différence entre scorer et mesurer, développée de manière générale dans Scorage vs. mesurage, à partir de l’exemple de données proposé par Bruno Falissard (2008) pour présenter le kappa de Cohen. On suppose que deux juges évaluent séparément, en termes de réussite ou d’échec, la manière dont 19 personnes réagissent à un test, dans le but de mesurer la compétence de ces personnes sur l’échelle de scores (0, 1, 2) — 0 si les deux juges « mettent » 0, 1 si un seul juge « met »1, 2 si les deux juges « mettent » 1. La table de contingence est reproduite ci-dessous.

kappa

L’argument consiste en deux points. (1) Les scores, qui sont obtenus en sommant les valeurs numériques qui codent les évaluations des juges (0 pour échec, 1 pour réussite), puisent leur signification non pas dans une opération additive mais dans la convention évaluative suivante : deux jugements de réussite valent mieux qu’un seul qui vaut mieux que zéro — on additionne des unités de valeur, c’est-à-dire des institutions sociales. (2) Comme tous les 2-uplets possibles sont observés, les observations effectuées ne sont pas simplement ordonnées. Par conséquent, les données ne peuvent pas être utilisées comme mesures ordinales de la compétence des personnes — la compétence étant considérée comme grandeur théorique qui déterminerait les jugements. En conclusion, les scores ne sont pas des mesures mais des jugements de valeur.

1. L’application de scorage AX

L’ensemble de départ de X (la description) est l’ensemble des 19 unités d’observation. Son ensemble d’arrivée est l’ensemble des quatre 2-uplets possibles, à savoir D = {00, 01, 10, 11}. Un 2-uplet indique le jugement du premier juge puis le jugement du second juge. En inspectant la table de contingence, on voit que 00 a neuf antécédents (ou bien, neuf unités d’observation ont pour image 00), 01 a un antécédent, 10 a deux antécédents, et 11 a sept antécédents.

L’application d’agrégation A attribue à tout 2-uplet la somme des nombres dont ils sont composés. Ainsi, le score de 1 point agrège 01 et 10. Remarquons que cette somme n’a pas de signification empirique, puisque « échec + réussite = réussite » n’a pas plus de sens que « réussite + échec = réussite ». On confond ici deux opérations logiquement distinctes, à savoir l’addition (+) et la conjonction (et) : « et » n’est pas « + » et réciproquement. La hiérarchisation des valeurs qui est ainsi opérée est conventionnelle. Ainsi, la composition de la description et du scorage, AX, attribue un niveau de valeur à toute unité d’observation dans une échelle à trois niveaux.

2. Pourquoi les descriptions ne sont pas des mesures

Un raisonnement par l’absurde permet de montrer que ces descriptions ne sont pas des mesures ordinales de quantités de compétence que possèderaient les 19 unités d’observation. Le principe du raisonnement par l’absurde consiste à tirer les conséquences de l’hypothèse qu’on veut falsifier, en montrant que ces conséquences sont fausses. Si A implique B et si non-B est vrai, alors non-A est vrai (et A faux).

Supposons, comme on l’a fait précédemment, que les deux juges mesurent la quantité de compétence Q(ω) de toute unité d’observation ω en observant comment elle réagit au test. Alors les jugements d’échec ou de réussite dépendent d’une fonction de mesurage qui les caractérise l’un et l’autre. Appelons ces fonctions F1 et F2 ; ce sont des fonctions par palier croissantes (voir Mesurer avec les réponses à un item, en remplaçant « item » par « juge »).

Considérons deux unités d’observation ω1 et ω2 telles que X(ω1) = 01 et X(ω2) = 10 (les deux 2-uplets sont incomparables). Il existe trois possibilités quantitatives :

  • Q(ω1) = Q(ω2), auquel cas F1[Q(ω1)] = F1[Q(ω2)] et F2[Q(ω1)] = F2[Q(ω2)], ce qui se note aussi F[Q(ω1)] = F[Q(ω2)] avec F = F1F2. Dans ce cas, X n’est pas FQ puisque X(ω1) ≠ X(ω2).
  • Q(ω1) > Q(ω2), auquel cas F1[Q(ω1)] ≥ F1[Q(ω2)] et F2[Q(ω1)] ≥ F2[Q(ω2)]. Dans ce cas, X n’est pas FQ puisque F1Q n’est pas X1 car X1(ω1) < X1(ω2).
  • Q(ω1) < Q(ω2), auquel cas F1[Q(ω1)] ≤ F1[Q(ω2)] et F2[Q(ω1)] ≤ F2[Q(ω2)]. Dans ce cas, X n’est pas FQ puisque F2Q n’est pas X2 car X2(ω1) > X2(ω2).

En conclusion, les observations contredisent l’hypothèse d’un processus de mesurage (ou de l’existence d’une fonction de mesurage). En d’autres termes, les descriptions incomparables 01 et 10 ne peuvent pas être expliquées par un mesurage.

3. Remarque sur les désaccords inter-juges

Dans la perspective du mesurage, les désaccords inter-juges sont possibles mais restreints : leurs descriptions ne doivent pas permettre l’observation d’états incomparables.

Référence

Falissard, B. (2008). Mesurer la subjectivité en santé : perspective méthodologique et statistique. Paris: Masson.

11a. Scorage vs. mesurage psychotechnique

Cet article demande patience et ténacité parce que certaines notions techniques, simples mais abstraites, sont mobilisées pour une conceptualisation minutieuse. Le cas échéant, le lecteur ne doit pas hésiter à consulter Internet sur certaines notions spécifiques (application, composition d’applications, produit cartésien, fonction croissante…). La notion fondamentale de m-uplet est détaillée dans 20a.

La différence conceptuelle entre le scorage psychotechnique et ce qui serait un authentique mesurage psychotechnique peut être mise en évidence en décrivant l’un et l’autre comme la composition de deux applications, A ○ X vs. F ○ Q. Pour montrer que scorage et mesurage ne sont pas synonymes, il suffit de montrer que les deux applications composées ne sont pas les mêmes applications.

  • Déterminer le score psychotechnique d’une personne à un moment donné consiste à déterminer (via X) puis à scorer (via A) une description psychotechnique de cette personne à ce moment.
  • Mesurer nécessite de supposer que la description psychotechnique résulte d’un processus de mesurage (formalisé par F) d’une certaine quantité déterminée (via Q). Si cette supposition est fausse, la description ne résulte pas d’un mesurage. Le scorage de cette description se présente alors comme une forme de pseudo-mesurage où le codage numérique se substitue au mesurage.

1. Description psychotechnique X

La description psychotechnique est une application X : Ω → D. Son ensemble de départ, Ω, est une population statistique. Une unité d’observation de Ω consiste le plus couramment en une personne e à un certain moment t, la notion de « moment » correspondant à l’intervalle de temps nécessaire à la passation du test ; une unité d’observation quelconque est notée ω = (e, t).

L’ensemble d’arrivée de X est noté D (pour description). Les éléments de D sont des m-uplets, où m indique le nombre d’items du test1. Le caractère gras de la notation D indique que la description est multivariée — elle a la forme d’un m-uplet où m > 1 — (par opposition à univariée — un score est un 1-uplet). Il est facultatif mais je l’utilise ici pour aider à distinguer entre multi- et univarié. La description psychotechnique d’une unité d’observation ω est la donnée de m réponses au test ; cette donnée se note X(ω) = x (pour les notations, cf. 42a).

L’application X est l’application conjointe

X1X2…Xm : Ω → D1×D2×…×Dm = D

(D est un produit cartésien), où tout Xi, i = 1, 2, …, m, associe à toute unité d’observation une et une seule valeur dans l’échelle des valeurs descriptives de l’item i.

2. Règle de scorage psychotechnique A

Une règle de scorage psychotechnique est une application notée A : D → S (A pour agrégation). Son ensemble de départ est l’ensemble d’arrivée de X, c’est-à-dire l’ensemble des m-uplets qui peuvent être envisagés étant donné le test. L’ensemble d’arrivée de A est noté S pour scores. Le score d’un m-uplet quelconque de D est déterminé par des « règles de transformation », ou encore d’agrégation numérique (d’où la notation A). Par exemple, le score de (0, 1, 1) est 2 points si on utilise la règle usuelle de l’addition des nombres qui se trouvent dans le m-uplet (on parle aussi de score composite, cf. 17a).

3. Scorage psychotechnique A ○ X

Tester une personne à un certain moment avec un certain test consiste à déterminer ses réponses aux m items du test — X(ω) — puis à attribuer un score à cette description — A[X(ω)]. Cette composition d’applications se note A ○ X. Le score de l’unité d’observation ω est

(A ○ X)(ω) = A[X(ω)] aussi noté X(ω).

4. Hypothèse quantitative Q

Le mesurage repose sur l’hypothèse fondamentale qu’une quantité existe (on mesure une quantité ou on ne mesure pas). Cette hypothèse peut se formuler comme l’hypothèse de l’existence d »une application Q : Ω → [0, max], qui à toute unité d’observation de Ω, associe une et une seule quantité q définie dans le segment [0, max], où « max » désigne la quantité maximale possible.

Remarque. La notion statistique d’unité d’observation appelle une remarque particulière dans ce contexte. Supposer que la personne possède une quantité psychologique instantanée est une chose, supposer que cette quantité ne varie pas dans l’intervalle de temps nécessaire à la passation du test en est une autre. La convention d’invariance de la quantité à mesurer pendant la passation du test est nécessaire pour tester la mesurabilité de la quantité visée par le test (voir la convention C).

5. Fonction de mesurage F

La fonction de mesurage F : [0, max] → D est définie sur le segment [0, max] et prend ses valeurs dans l’ensemble D. Soit un test de m items. Pour tout item i du test, on suppose qu’il existe une fonction croissante Fi : [0, max] → Di, où Di est l’échelle des valeurs descriptives de l’item i (voir l’article Mesurer avec les réponses à un item). La fonction F est la fonction conjointe

F1F2…Fm : [0, max] → D1×D2×…×Dm = D.

La mesure de la quantité q par F est un m-uplet de valeurs, qu’on note y. F(q) = y.

Une propriété critique des valeurs de la fonction F est qu’elles sont simplement ordonnées parce que toute fonction Fi est croissante. Ce point est détaillé dans la section 6. Cette propriété d’ordre simple, ou encore de comparabilité, rend falsifiable la proposition selon laquelle deux descriptions particulières X(ω1) et X(ω2) résultent du mesurage des quantités Q(ω1) et Q(ω2). Il suffit que X(ω1) et X(ω2) soient incomparables, et on note X(ω1) <> X(ω2), pour que ces descriptions ne soient pas des mesures ordinales.

6. Mesurage psychotechnique F ○ Q

Si un test psychologique permet de mesurer la quantité psychologique d’une unité d’observation ω, c’est que cette quantité, Q(ω), détermine la description psychotechnique F[Q(ω)]. Le mesurage psychotechnique est donc la composition F ○ Q.

Soient les unités d’observation ω1 et ω2. Leurs mesures sont respectivement (F ○ Q)(ω1) = F[Q(ω1)] = Y(ω1) et (F ○ Q)(ω2) = F[Q(ω2)] = Y(ω2), où la lettre Y désigne l’application F ○ Q.

Ordre produit direct (définition). On dit que F[Q(ω1)] ≥ F[Q(ω2)] si et seulement si quel que soit i, Fi[Q(ω1)] ≥ Fi[Q(ω2)]. Cette définition s’applique aussi à X.

Théorème. F est croissante.

Démonstration

Soient ω1 et ω2 tels que Q(ω1) ≠ Q(ω2) :

  • Si Q(ω1) > Q(ω2), alors quel que soit i = 1, 2, …, m, Fi[Q(ω1)] ≥ Fi[Q(ω2)] donc F[Q(ω1)] ≥ F[Q(ω2)].
  • Si Q(ω1) < Q(ω2) on se ramène au cas précédent en intervertissant les indices de ω.

Comparabilité (ordre simple). La croissance de F implique que deux mesures y1 et y2 sont comparables.

7. Scorage vs. mesurage

Scorage et mesurage sont des opérations distinctes, puisque X = A ○ X n’est pas la même opération que Y = F ○ Q. Autrement dit, disposer d’un score composite X(ω) n’implique pas qu’il existe une fonction croissante F telle que X = FQ.

Soit un ensemble Ωn de n unités d’observation. S’il existe une fonction F telle que l’image de Ωn par X soit égale à l’image de Ωn par F ○ Q, c’est-à-dire Xn) = (F ○ Q)(Ωn), alors les descriptions psychotechniques Xn) sont des mesures ordinales des quantités Q(Ωn). Par conséquent, ces descriptions sont simplement ordonnées, c’est-à-dire que les descriptions de deux unités d’observation distinctes sont égales ou strictement ordonnées. Le score exprime alors cette propriété ordinale de comparabilité.

Si une telle fonction F n’existe pas, on ne sait pas mesurer les quantités Q(Ωn). Il est possible que cette ignorance découle de l’inexistence des quantités (l’hypothèse Q est fausse), ou de notre incapacité à déterminer les conditions expérimentales qui permettent de supposer l’existence de F sans être contredit par les observations.

S’il existe deux unités d’observations ω1 et ω2 dont les descriptions sont incomparables, c’est-à-dire qu’il existe i et j tels que Xi(ω1) > Xi(ω2) et Xj(ω1) < Xj(ω2), alors F n’existe pas et donc on ne peut pas affirmer que les descriptions résultent d’un mesurage par F des quantités supposées.

8. Exercice non corrigé

  1. Un 3-uplet est par exemple (0, 1, 1), où 0 et 1 indiquent respectivement une réponse incorrecte et une réponse correcte. []

10a. Comment Dickes et al. présentent la mesure en psychologie

Dans leur ouvrage « La psychométrie : théories et méthodes de la mesure en psychologie  » (1994), Paul Dickes, Jocelyne Tournois, André Flieller et Jean-Luc Kop tentent une présentation orthodoxe des « théories et méthodes de la mesure en psychologie ». Par « orthodoxe », j’entends « qui ne conteste pas l’idée qu’on sache mesurer en psychologie ».

Si on croit qu’on ne sait mesurer aucune grandeur psychologique avec des réponses à des items de test (au sens de la définition donnée dans 3a), lire cet ouvrage revient à assister à une tentative de sauvetage du préjugé qu’on sait mesurer en psychologie. On a parfois l’impression que les auteurs eux-mêmes sont pris de doute (par exemple, ils citent, p. 23, Maurice Reuchlin remarquant en 1962 que « si l’on admet à la fois la formulation axiomatique utilisée par Campbell et le caractère nécessairement univoque de l’attribution des nombres aux choses mesurées, on peut montrer que les grandeurs psychologiques n’ont jamais encore été mesurées » et, p. 30, Clyde Coombs qui « soutient même que le comportement est fondamentalement un ordre partiel »), mais ils ne franchissent pas le Rubicon.

Pour rester orthodoxes, les auteurs confondent mesurage et scorage (ou agrégation numérique) : mesurer, c’est noter1. Pour pouvoir soutenir qu’on sait mesurer en psychologie, il faut faire admettre que mesurer, c’est appliquer une méthode de transformation de données en nombres. Mais les auteurs n’envisagent pas que certaines connaissances — des faits falsifiants — puissent empêcher cette transformation, de telle sorte qu’on soit contraint de conclure que dans telle ou telle situation, on ne sait pas mesurer — ce qui ne veut pas dire qu’on ne sache pas noter malgré tout.

Ici gît ce qui me paraît une entorse majeure à l’esprit scientifique. Faire de la science, c’est accepter le verdict des faits empiriques contre notre désir de réduire le réel à nos propres catégories cognitives — contre nos théories, notre vision du monde. L’orthodoxie psychométrique procède moins du désir de connaître, indissociable de notre tolérance à l’ignorance (connaître quelque chose, c’est reconnaître qu’on ignore autre chose), que du désir d’évaluer. Le désir d’évaluer fonctionne comme un impératif catégorique dans le champ social : il faut pouvoir évaluer. Parfois, l’évaluation est une exigence d’efficacité vitale — cette proie, ce prédateur, sont-ils plus forts que moi ? Si le contexte social conduit à la nécessité sociale d’évaluer des personnes, alors le problème n’est pas de déterminer ce en quoi consiste cette nécessité, mais de savoir comment le faire (voir l’exemple de l’échelle métrique de l’intelligence de Binet et Simon). Autrement dit, pas question de ne pas évaluer. Or, évaluer, c’est parler le langage du « plus ou moins ».

D’un autre côté, transformer des données en nombres sans clause d’impossibilité logico-empirique, c’est exactement de la numérologie :

 pour que les faits empiriques te disent ce que tu veux savoir, tu les exprimeras en nombres.

D’où un problème de légitimation. Si la légitimation consiste en la satisfaction du critère de scientificité de la psychotechnique, on débouche sur le problème poppérien de la démarcation entre science et non-science (voir Popper, 1973). Cette numérologie revêt une allure de scientificité grâce à la modélisation statistique et à une forme de contrôle de la modélisation par les faits empiriques — pour préserver l’empirisme nécessaire à toute science qui se dit empirique. Mais ce contrôle, lorsqu’il procède effectivement du test d’une hypothèse, porte sur des phénomènes qui se manifestent à une échelle qui n’a rien à voir avec l’échelle de la personne individuelle. L’agrégation s’applique cette fois, non pas à des  symboles (la numérologie), mais à des personnes. Les échantillons résultants sont alors supposés provenir de populations statistiques (qui ne sont pas équivalentes à des populations démographiques — voir aussi 15a). Par exemple, la théorie factorielle de l’intelligence a pour objet des matrices de corrélations qui ne décrivent personne en particulier ni quiconque en général.

Si on sait mesurer, on sait mettre en nombres de manière scientifique. Si on parle le langage des nombres, on sait parler le langage du « plus ou moins ». Ce langage a une utilité évaluative. Mais ce raisonnement n’est pas réversible : mettre en nombres, ce n’est pas nécessairement mesurer si par mesurer, on entend profiter de ce que les phénomènes qu’on sait décrire soient quantitatifs (i.e., obéissent aux axiomes de la quantité). Il se peut que les phénomènes psychotechniques, c’est-à-dire les phénomènes qu’on sait décrire avec des tests, ne soient pas quantitatifs. Dès lors, franchir le Rubicon, i.e., affirmer qu’on ne sait pas mesurer avec des réponses à des items de tests, c’est dire à certains acteurs du champ social, concernés par l’évaluation des personnes, que la psychotechnique est une psychonumérologie, ou encore qu’on ne sait pas soutenir sur des bases scientifiques que la mise en nombres psychotechnique (ou psychométrique) soit fondée sur des lois naturelles quantitatives. D’où un vide non pas technique, mais scientifique. Franchir le Rubicon, c’est ôter aux descriptions que l’évaluateur impose aux êtres pour les classer dans ses espaces d’évaluation leur caractère naturel (voir la critique de l’échelle métrique de l’intelligence de Binet et Simon).

En ne franchissant pas le Rubicon, on évite de heurter la (toute-)puissance de l’évaluateur. On  institue la validation des tests comme un problème d’experts, l’essentiel étant qu’on dispose (1) de techniques de description numérique, qui constituent dès lors un arsenal scientifiquement légitime pour l’évaluation, et (2) d’une cohorte d’agents psychotechniques pour sa mise en œuvre. Bien entendu, ce tableau présente une tournure idéologique : qui est « on » ? Disons, pour le moment, que cette figure de rhétorique est provisoire et qu’elle permet de ne pas tout développer à la fois (mais voir 19a). Les processus d’institutionnalisation ou de formation de paradigmes relèvent d’une analyse qui permette de montrer comment les comportements individuels se coordonnent sans l’intervention d’un « on » personnalisé2.

Le problème pour le psychologue lambda à qui il revient de mettre en nombres les personnes via ce qu’il connaît d’elles à travers leurs réponses aux tests, c’est qu’il ne jouit pas de l’expertise psychométrique. Il participe de la reconnaissance collective de l’expertise des psychométriciens par défaut (il n’en cerne pas les limites). Autrement dit, il doit se débrouiller pour faire croire dans son champ social particulier que ses nombres valent quelque chose parce que, d’une certaine manière, il en vit, quand bien même il ne sait pas les justifier lui-même du point de vue scientifique. Et il n’a pas intérêt à souligner qu’il ne sait pas le faire parce qu’alors il soulignerait son manque d’expertise, lequel, dans un contexte de concurrence exacerbée sur le marché du travail, le désignerait comme adversaire fragile (facile à éliminer). C’est ici que les remarques générales de Jean-Paul Allouche dans sa tribune prennent une pertinence particulière pour les psychologues.

Références

Allouche, J.-P. (2014). Connaître n’est pas mesurer. Le Monde, 29 janvier.

Dickes, P., Tournois, J., Flieller, A., & Kop, J.-L. (1994). La psychométrie. Paris: Presses Universitaires de France.

Popper, K. R. (1973). La logique de la découverte scientifique. Paris: Payot.

  1. Pour une distinction formelle, voir 11a. []
  2. Par exemple, comment acceptons-nous le prix des choses alors que personne en particulier ne nous l’impose ? Comment les journalistes acceptent-ils de ne pas poser certaines questions, comme par exemple, qui fabrique l’argent et décide de sa mise en circulation, alors que personne en particulier ne le leur interdit ? []

9a. Les réponses à des items de test sont des mesures : convention, falsifiabilité, validité

Lorsqu’on affirme que les réponses à un certain item de test mesurent une grandeur, on affirme une convention. On propose aux membres d’un collectif d’accepter une façon de parler. Refuser ou accepter cet usage linguistique n’est pas une question empirique, on ne peut pas fonder son refus sur la base de faits d’observation qui viendraient contredire cela (voir aussi Popper).

Lorsqu’on affirme que les réponses à deux (ou plus) items mesurent la même grandeur, on affirme aussi une convention. D’un point de vue expérimental, les réponses aux items correspondent à des moments successifs et on ne dit pas que la quantité de la grandeur qui détermine la réponse au premier item est la même que la quantité de la grandeur qui détermine la réponse au deuxième item (etc.).

Cependant, un test psychotechnique est une collection d’items, c’est-à-dire qu’on adopte une convention supplémentaire. On affirme que la quantité qui détermine la réponse à tout item du test ne varie pas dans l’intervalle de temps nécessaire pour obtenir les réponses — sinon, on ne dirait pas que le test mesure une quantité de la grandeur. On affirme une convention qui rend falsifiable l’affirmation que les items du test mesurent la même quantité de la même grandeur. Des notations sont utiles pour mettre en évidence la structure logique (hypothético-déductive) de l’argument.

Soit une population donnée d’unités d’observation telle que quelle que soit une unité d’observation,
A : la réponse à l’item I1 mesure une quantité q1 de la grandeur Q,
B : la réponse à l’item I2 mesure une quantité q2 de la grandeur Q,
C : dans un intervalle de temps inférieur (ou égal) à dt (le temps nécessaire à la passation des items en question), la quantité de la grandeur Q ne varie pas (i.e., q1 = q2 = q).

D : si A et B et C, alors les réponses aux deux items lorsque ceux-ci sont utilisés dans dt, forment un 2-uplet et les 2-uplets qu’on peut observer dans la population statistique à laquelle on s’intéresse obéissent à une loi d’ordre simple : deux 2-uplets distincts issus de cette population sont comparables : l’un est inférieur à l’autre (voir aussi 11a, 31a).

Voici un argument valide, c’est-à-dire que la conclusion (D) découle logiquement de la prémisse (A et B et C).

En développant ce qu’est une loi d’ordre simple, on va s’apercevoir que la prémisse est testable, parce qu’il existe au moins un fait d’observation possible qui contredit la prémisse (11a). Ce fait d’observation possible est un falsificateur (Popper, 1973). Comme l’hypothèse « A et B et C » est falsifiable, c’est une hypothèse scientifique.

Comment utiliser la testabilité de l’hypothèse ? Tout argument de type « si prémisse alors conclusion  » est équivalent à « si non-conclusion alors non-prémisse » (voir aussi Notturno, 2000, sur la validité). Supposons qu’on observe une réponse aux deux items qui falsifie la prémisse « A et B et C ». Alors « non-(A et B et C) », c’est-à-dire qu’au moins une des trois propositions A, B ou C est fausse. Puisque C est vraie par convention (i.e., on ne touche pas à sa valeur de vérité pour des raisons de falsifiabilité), soit la réponse à l’item I1 ne mesure pas la quantité q de la grandeur Q, soit la réponse à l’item I2 ne mesure pas la quantité q de la grandeur Q, soit la réponse aux deux items ne mesure pas la quantité q de la grandeur Q.

Tout cela peut demander un certain travail, inutile si on refuse ce qu’il faut admettre pour soutenir l’hypothèse : il faut admettre que les réponses ne dépendent que de la quantité à mesurer (voir la définition du mesurage), ce qui, dans la communauté des psychologues, est considéré comme quelque chose d’intenable — les psychologues sont les premiers à reconnaître que la réponse à un item de test résulte d’un processus hyper-complexe qu’on ne comprend pas.

D’où un point de bifurcation. (1) 0n peut, pour l’exercice, montrer que l’hypothèse « les réponses aux deux (ou plus) items mesurent une quantité de la grandeur » est vouée à la falsification, en comptant sur la bonne foi des observateurs qui seront témoins d’observations falsifiantes (voir les articles 12a et 13a). C’est très intéressant parce qu’en psychologie, à mon humble avis, on n’a pas l’habitude de raisonner de cette manière alors que c’est possible et instructif.

(2) On peut s’intéresser à ce qui permet aux psychologues de croire d’un côté qu’on sait mesurer avec des réponses à des tests et d’un autre côté que les réponses à des tests dépendent d’une myriade de facteurs inconnus. On doit alors aborder la théorie classique des tests puis la théorie de la réponse à l’item, c’est-à-dire plonger dans une certaine utilisation du langage des probabilités. C’est très intéressant parce qu’on voit comment la notion de probabilité peut être utilisée de manière à faire croire qu’on sait des choses alors même qu’on est en train de raconter qu’on ne sait pas expliquer ce qui se produit, et comment on confond l’interlocuteur (et soi-même) en passant sans prévenir d’une classe de référence à une autre (pour une analyse approfondie, voir 25a).

Si on veut tout de suite sortir du musée psychométrique, il suffit de retenir que les approches psychométriques mentionnées ne permettent pas de déduire quoi que ce soit des réponses qu’on peut observer — à l’échelle d’une personne. En d’autres termes, les modèles psychométriques sont infalsifiables — à l’échelle d’une personne. En tant que domaine d’application pour la modélisation statistique, la psychométrie introduit une norme épistémologique nouvelle dans le champ des sciences empiriques : si on ne peut déduire quoi que ce soit d’une théorie psychométrique, il est acceptable de deviner (plutôt que ne rien dire du tout), en utilisant une théorie statistique de la meilleure estimation (par exemple, la maximisation de la vraisemblance). Mais même si elle est statistique, une méthode de divination reste une méthode de divination.

8a. Le kappa de Cohen : une solution à un faux problème

Deux juges décrivant séparément la même unité d’observation peuvent produire des descriptions différentes, auquel-cas les juges ne sont pas interchangeables.  Comment les observateurs procèdent-ils pour former leurs descriptions ? Quelles informations ont-ils utilisées ? Comment les ont-ils agrégées ? Ont-ils agrégé des informations différentes ? Ont-ils agrégé les mêmes informations mais selon des modes d’agrégation différents ? Ces questions relèvent d’une théorie de la description.

Le présent billet est une charge contre le conformisme socio-technique en psychologie qui, ici, prend une forme particulière : face au fait que deux observateurs produisent des descriptions différentes du même phénomène, la solution se trouverait dans le kappa de Cohen. Cette statistique est quasiment obligatoire en recherche : si vous rapportez les résultats d’une étude qui utilise des observations dont l’objectivité est douteuse, vous devez exhiber un kappa de Cohen. D’où l’obligation de former les étudiants en psychologie (mais aussi en médecine) à l’utilisation du kappa de Cohen et, lorsque le design « deux juges – un item dichotomique (à deux réponses) » se complique, une surenchère statistico-technique (voir par exemple Falissard, 2008, pp. 91-95) pour montrer qu’on s’ingénie… à résoudre des problèmes qui ne sont pas les bons. Bilan éducatif : on forme de futurs agents socio-techniques, pas des intellectuels, par :

  • l’acculturation des étudiants à la soumission à une autorité dite scientifique — parce qu’ils apprennent finalement qu’il faut appliquer une formule qu’ils ne comprennent pas bien, et pour cause tant sa démarche intellectuelle est sinueuse,
  • le gaspillage de l’intelligence des étudiants — parce qu’ils seraient capables de discuter les problèmes de description que posent les désaccords observés au lieu de se perdre dans les calculs.

1. Cas d’école

Falissard (2008, p. 88) propose l’exemple numérique suivant, que je vais adapter à ma guise :

kappa

Les codes 0 et 1 sont deux valeurs descriptives (ou encore deux réponses possibles). Les deux cliniciens ont décrit 19 cas, dont la répartition est indiquée dans ce qu’on appelle une table de contingence. Les nombres 7, 1, 2 et 9 sont des effectifs conjoints.

On constate trois différences de description : un cas est décrit 1 par le Clinicien 2 et 0 par le Clinicien 1, deux cas sont décrits 0 par le Clinicien 2 et 1 par le Clinicien 1. Soit une proportion de 3/19 = 16 % de désaccords. Conclusion : ces trois cas ne sont pas des unités d’observation exploitables puisque leur description change en fonction du juge. Le problème consiste à éliminer dans le futur les discordances, et on peut s’y atteler en travaillant sur la manière dont les cliniciens choisissent entre 0 et 1.

Dans cette perspective, 1 % de désaccords, c’est embêtant mais c’est mieux que 2 %. Et ainsi de suite jusqu’à ce qu’un consensus se dégage par la pratique collective. Si tous les chercheurs concernés font face à des désaccords de l’ordre de 20 %, on finira par dire que 30 %, ce n’est pas acceptable, mais qu’au-dessous de 20 %, les données seront d’une qualité acceptable — voir la même forme d’argumentation à propos de la falsification du modèle de Guttman.

D’où le faux problème : comment mesurer correctement la qualité, ou encore, la précision des données ? Réponse : avec le kappa de Cohen. Le problème est un faux problème parce que les 38 descriptions sont on ne peut plus précises — puisqu’elles sont faites dans un format de réponse discret (voir 7a). C’est pourquoi le nombre des désaccords observés est connu avec une précision parfaite.

2. Les probabilités à la rescousse

Il se peut que des accords surviennent par hasard et on va corriger le pourcentage d’accords en tenant compte de cette possibilité. Deux remarques. (1) Il ne s’agit pas d’agir sur la manière dont les juges décrivent les unités d’observation, quitte à améliorer le langage de la description, mais sur la manière dont on « mesure » la « qualité » ou la « précision » des données. (2) Pourquoi donc les juges devraient-ils répondre au hasard ? Le hasard consiste dans l’hypothèse (nulle) d’indépendance (stochastique) de deux variables aléatoires. Mais quelle est la pertinence de l’hypothèse nulle ? Les juges ne sont pas des variables aléatoires. Leurs jugements sont expérimentalement indépendants, c’est-à-dire qu’ils ne s’influencent pas mutuellement. Personne ne soutient que les juges fonctionnent comme un couple de variables aléatoires indépendantes.

Qu’importe, il faut modéliser. On va calculer la probabilité d’un événement de concordance comme si les deux juges fonctionnaient comme des variables indépendantes, et soustraire cette probabilité à la probabilité qu’on a calculée sans penser à cette possibilité. Mais, voudrait-on objecter, pas du tout ! Personne ne prétend avoir calculé une probabilité, il s’agit d’une proportion de désaccords, 3/19, pas d’une probabilité. Qu’importe encore, probabilité, proportion, fréquence, c’est pareil… L’étudiant docile n’osera pas remarquer qu’on passe allègrement du comptage empirique des cas de désaccord à la modélisation probabiliste d’événements définis dans un espace probabilisé dont le statut théorique est… vacant, et il ne le pourra pas s’il n’a aucune idée de ce qu’il faut pour définir mathématiquement la probabilité d’un événement.

Les probabilités des cellules de la table de contingence sont calculées en admettant qu’on connaisse les probabilités marginales. On les ignore. On connaît les fréquences marginales calculées en fonction des données. Ainsi, la probabilité des jugements conjoints est, par hypothèse, le produit des probabilités de chaque jugement. Le résultat des calculs est indiqué ci-dessous :

kappa3

On arrive à cette proposition que la probabilité de la concordance des deux juges est égale à 0.199 + 0.305 = 0.504. Très fort ! Ce n’est pas fini. La proportion d’accords est égale à 16/19 = 0.842 (ce qui est mieux que 0.504 mais personne n’en doutait, le contraire eut été surprenant). La formule du kappa est la suivante :

kappa = (0.842 – 0.504)/(1 – 0.504) = 0.681.

Voici donc la proportion d’accords, qui valait presque 85 %, savamment et sévèrement corrigée, puisqu’on arrive à 68 %. A-t-on résolu quelque chose ? Rien, puisque le problème est que la proportion d’accords n’est pas égale à 1. Si la proportion est égale à 1, le kappa ne sert à rien car

(1 – n’importe quoi)/(1 – n’importe quoi) = 1,

avec n’importe quoi non égal à 1.

Cerise sur le gâteau, on n’oubliera pas, en rapportant le kappa de Cohen, d’indiquer son intervalle de confiance à 90 ou 95 %… cela fera meilleure impression dans l’esprit de l’éditeur et des experts qui évalueront le « papier ».

Référence

Falissard, B. (2008). Mesurer la subjectivité en santé : perspective méthodologique et statistique. Paris: Masson.

Cite this article as: Stéphane Vautier, "8a. Le kappa de Cohen : une solution à un faux problème", in Épistémologie de la psychologie, 21/04/2014, https://epistemo.hypotheses.org/715.

7a. Instrument de mesure et fonction de mesurage

1. Mais quand même…

« Une échelle ou un test psychotechniques ne sont pas des instruments de mesure », « le médecin qui utilise une échelle hétéro-évaluative ou la personne qui utilise par exemple une échelle analogique de douleur sont des instruments de mesure » (voir 6a) : cela mérite une discussion.

On dit que le mètre représenté ci-dessous (source) est un instrument de mesure et cela ne pose pas de problème. Si on dit qu’une personne est un instrument, on lui enlève sa dignité, sa responsabilité, ou encore son libre arbitre. Dire qu’elle est un instrument de mesure paraît donc problématique puisqu’un instrument de mesure est un instrument.

 Metre_pliant_500px

2. Mesurer, c’est exploiter un principe de mesurage : application au mesurage de longueurs

Pour comprendre ce qu’est mesurer une grandeur, il faut savoir comment, dans les situations psychotechniques comme dans d’autres situations où il s’agit de mesurer, on mobilise un principe de mesurage — selon lequel les observations effectuées sur un objet possédant cette grandeur permettent de déduire quelque chose à propos de cette grandeur.

L’utilisateur d’un mètre pliant (ou d’un double décimètre) procède au mesurage de la longueur d’un objet en positionnant le zéro de son mètre pliant au « début » de l’objet et en déterminant la graduation qui correspond à la « fin » de l’objet, de sorte que le segment [« début », « fin »] est ainsi  rendu équivalent à un segment du mètre-ruban qui est lui-même décrit par un nombre de graduations ou par un intervalle de graduations. Il s’agit d’une opération descriptive. La description réalisée est conçue comme le résultat d’un mesurage de la longueur de l’objet parce qu’on admet qu’il existe une fonction de mesurage (affine) qui relie la grandeur « longueur », pur concept d’un segment [0, max], aux descriptions que ce procédé de description rend possibles.

Cette fonction peut-être appréhendée expérimentalement : par exemple, si je diminue la longueur de l’objet en en coupant un morceau (ce qui permet d’affirmer que la longueur diminue, l1 < l2), la description diminuera aussi (F(l1) < F(l2)). C’est le va-et-vient entre ce qu’on sait faire sur la longueur et les descriptions correspondantes qui fonde le mesurage de la longueur : la longueur détermine la description selon une fonction de mesurage (F).

3. Mesure approchée vs. discrète

Spaghetti2

Mais il faut examiner les choses de plus près. La longueur qu’on attribue à l’objet ne détermine pas exactement la description qu’on fait de cette longueur, puisque cette longueur est par hypothèse un nombre réel positif et que la description, bien qu’elle s’exprime par un nombre, est en fait un intervalle, c’est-à-dire la donnée d’une borne inférieure et d’une borne supérieure qui encadrent ce nombre. Le nombre donné par la description est une commodité de langage. Si je dis que ce morceau de spaghetti mesure 9,7 cm, je ne prétends pas que sa longueur soit 9,7 fois plus grande qu’une longueur mesurant un cm. Je dis que l’image de la longueur par la fonction de mesurage est un nombre qui se trouve dans l’intervalle [9,5 cm ; 10 cm], si je suis prêt à assumer ce niveau de précision (ou d’approximation) pour mes descriptions (ou mes « lectures »). Assumer ce niveau d’approximation signifie prétendre qu’on peut me faire confiance, la mesure de la longueur ne se trouve pas hors de cet intervalle (voir Bachelard, 1938/1983 ; Popper, 2013).

Un mètre pliant (ou un double décimètre) est un instrument de mesure en ce sens que son langage descriptif est l’ensemble d’arrivée d’une fonction de mesurage qui ne pose pas de problème (tout au moins à ma connaissance) : cette fonction est de type y = F(l) = al, où a est un nombre réel strictement positif, l une quantité de longueur, et y l’image de l par la fonction dans le segment [0 cm, 20 cm]. Je peux déduire des observations « 9,7 cm tout à l’heure et 5,7 cm maintenant que je l’ai raccourci  » que la longueur a diminué parce que le niveau d’approximation des observations le permet : tout à l’heure, la longueur mesurée, F(l1),  était plus grande que 9 cm, maintenant la longueur mesurée, F(l2), est plus petite que 6 cm, et comme 6 < 9, la longueur a diminué (F(l2) < 6 cm < 9 cm < F(l1) donc F(l2) < F(l1) donc l2 < l1).

Les items psychotechniques discrets ne posent pas de problème d’approximation descriptive puisque les réponses possibles à l’item se trouvent dans une liste finie (si l’utilisateur ne savait pas choisir entre plusieurs réponses voisines, alors on aurait non pas un problème de mesurage mais un problème de description). Il n’est donc pas question d’approximation comme dans le cas d’un format continu.

4. Remarque sur la théorie classique des tests

La doctrine de la validation des tests est pour ainsi dire muette sur le principe de mesurage, i.e., sur la fonction qui relie la grandeur qu’on veut mesurer aux réponses possibles, et cela est possible parce qu’elle n’exige pas la validité des inférences qu’on fait à partir des observations (condition nécessaire de la scientificité, voir par exemple l’article sur la théorie classique des tests).

5. Où sied le principe de mesurage ?

Quand je dis qu’en psychotechnique l’instrument de mesure est la personne, c’est une façon d’utiliser le langage à contre-courant pour attirer l’attention sur le fait que le principe de mesurage ne se trouve pas dans le langage descriptif — en tant que tel, un test propose un langage descriptif. L’idée de principe de mesurage comprend le langage descriptif et le concept de la grandeur à mesurer. On peut maintenant interpréter ce que veut dire Falissard (2008) par « saut qualitatif » (p. 8) : l’amélioration liée à « l’ébauche d’un système d’étalonnage » (p. 8) ne porte pas sur le mesurage, mais sur le langage descriptif utilisé comme ensemble d’arrivée d’une fonction de mesurage dont il ne parle pas.

Référence

Falissard, B. (2008). Mesurer la subjectivité en santé : perspective méthodologique et statistique. Paris: Masson.

6a. La notion de mesure étalon selon Falissard : un saut qualitatif indéniable ?

Dans son ouvrage « Mesurer la subjectivité en santé : perspective méthodologique et statistique » (2008), Bruno Falissard présente deux exemples de formats de réponse discrets (dans son chapitre 2). L’échelle Clinical Global Impression – Severity illustre ce qu’il appelle la mesure « impression », tandis qu’il apparente la Standford Sleepiness Scale à la mesure « étalon ». Cet article applique la définition du mesurage à ces deux exemples et conclut (1) que la mesure « impression » et la mesure « étalon » sont des conventions de mesurage ordinal univarié d’une grandeur théorique et (2) que la différence entre les deux échelles tient au mode hétéro- vs. auto-évalué de leur utilisation : dans le premier cas, l’instrument de mesure est le médecin, qui évalue la gravité de la maladie de son patient, tandis que dans le second cas, l’instrument de mesure coïncide avec l’objet qui possède la grandeur : la personne évalue son propre état de somnolence/vigilance.

1. Les fonctions de mesurage sont des fonctions par palier

1.1. L’échelle Clinical Global Impression – Severity

Pour décrire la gravité de la maladie de son patient avec cette échelle, le médecin doit choisir une des huit réponses suivantes : non évalué (0), normal, pas du tout malade (1), à la limite (2), légèrement malade (3), modérément malade (4), manifestement malade (5), gravement malade (6), parmi les patients les plus malades (7).

Remarque. Si cette échelle mesure la gravité de la maladie, la réponse 0 (non évalué) est un intrus logique, puisqu’elle indique l’absence d’évaluation (et donc de mesurage). En fait, l’échelle comprend sept réponses ordonnées : (1, 2, …, 7).

Comment concevoir que la réponse du médecin dépende de la gravité de la maladie du patient, de telle manière qu’on puisse déduire une variation théorique d’une variation observée ? Rappelons (voir Remarque 1) que si on admet que le jugement du médecin dépend de facteurs autres que la gravité de la maladie sans qu’on sache limiter l’effet de ses facteurs sur les réponses du médecin, aucune déduction n’est possible, puisque toute variation observée peut être causée par autre chose que par une variation théorique de la grandeur. Ce point me semble capital : si vous utilisez une balance pour vérifier que votre enfant a pris du poids et si vous admettez que les indications de la balance dépendent dans une limite inconnue d’autre chose que du poids de votre enfant, vous changez de balance.

Sous l’hypothèse que les réponses du médecin ne dépendent que de la gravité de la maladie du patient, comment représenter cette relation de causalité ? Par une fonction par palier, selon le raisonnement développé dans Mesurer avec les réponses à un item (voir aussi, pour s’exercer, 33a). Chaque réponse désigne non pas une quantité de gravité, mais un intervalle de quantités possibles. C’est pourquoi la proposition

6 – 5 = 4 – 3

n’a pas de signification théorique du point de vue de la notion de gravité de la maladie, parce que les intervalles correspondant aux valeurs numériques de l’échelle ne peuvent pas être soustraits les uns aux autres. Le mesurage que le médecin opère avec cette échelle est un mesurage ordinal : l’échelle fournit un langage de type « plus ou moins que ».

1.2. La Standford Sleepiness Scale

Pour décrire son état de somnolence/vigilance, la personne doit choisir une réponse dans la liste suivante :

  • Energique, tout à fait réveillé (1),
  • Etat d’éveil très bon, mais pas le meilleur. Capable de me concentrer (2),
  • Décontracté, éveillé, conscient de l’environnement (3),
  • Légère sédation, pas au maximum de ma forme, je laisse aller (4),
  • Sédation moyenne. Je commence à perdre l’envie de rester éveillé, je suis ralenti (5),
  • Je me sens endormi. Je préfère être couché. Je combats l’endormissement. Vaseux (6),
  • Je dors presque. J’ai perdu l’envie de rester éveillé (7).

Les réponses à cette échelle mesurent la quantité de somnolence, définie dans [0, max], si celle-ci détermine les réponses selon une fonction telle que si la somnolence augmente d’une quantité q1 à une quantité q2, la réponse correspondant à q1 soit supérieure ou égale à la réponse correspondant à q2. On est conduit à invoquer une fonction en sept paliers (voir aussi 33a).

Le mesurage de la somnolence est ordinal. Par conséquent, bien qu’on puisse considérer les réponses comme « la référence d’un certain niveau de somnolence » (Falissard, 2008, p. 9) et ne pas considérer les réponses de l’échelle Clinical Global Impression – Severity comme la référence d’un certain niveau de gravité de la maladie, je ne vois pas en quoi cette distinction « constitue un saut qualitatif indéniable dans la conceptualisation de la notion de mesure » (p. 8) : les deux approches sont des conventions descriptives ordinales d’une grandeur dont le statut théorique est, comme Falissard le reconnaît bien volontiers par ailleurs, rudimentaire. L’article Instrument de mesure et fonction de mesurage précise comment comprendre son idée de saut qualitatif.

Conformément à l’usage en psychologie, l’auteur appelle ces deux échelles des instruments de mesure. Je m’inscris en faux contre cet usage parce qu’il est incorrect du point de vue du mesurage. Si tant est qu’il y ait mesurage — et je crois qu’il n’y a pas mesurage — les instruments de mesure sont respectivement le médecin et la personne qui évalue son niveau de somnolence, ce qui entraîne certaines conséquences.

2. La confrontation des instruments de mesure n’est pas toujours possible

Supposons deux médecins décrivant indépendamment l’un de l’autre la gravité de la maladie d’un même patient avec l’échelle Clinical Global Impression – Severity. Si on observe que leurs réponses ne sont pas identiques, alors les deux instruments de mesure ne sont pas interchangeables. Si on postule qu’ils mesurent la même grandeur, on est obligé de déduire de l’observation que les fonctions de mesurage caractérisant les deux médecins sont différentes. Le problème de l’interchangeabilité des instruments de mesure peut se poser parce que les instruments de mesure ne coïncident pas avec l’objet dont on mesure la grandeur.

Dans le cas de la Standford Sleepiness Scale, le problème de l’interchangeabilité des instruments de mesure n’est pas possible parce que le mode d’emploi stipule que la personne somnolente/vigilante procède à la description de son état. Cette situation mérite d’être remarquée. Imaginons : un technicien souhaite vérifier la tension du courant électrique dans les nombreux appartements d’un immeuble. Comme il ne dispose pas de voltmètre personnel, il décide de se fier aux voltmètres de chaque appartement, mais le principe de fonctionnement de ces voltmètres est inhérent à la psychologie des habitants de chaque appartement ! Ressentez-vous comme moi une grande perplexité ?

Cette perplexité est difficile à éprouver si on croit que l’instrument de mesure est non pas la personne qui se sert de l’échelle de description, mais bien l’échelle de description elle-même. Cette croyance est renforcée, au sens behavioriste du terme, par la rhétorique de la doctrine de la validation des tests. Conformément à cette rhétorique, Falissard intitule son chapitre 3 « Construire un instrument de mesure subjective » — voir aussi Dany Laveault et Jacques Grégoire qui intitulent « La construction d’un instrument de mesure » le premier chapitre de leur « Introduction aux théories des tests en psychologie et en sciences de l’éducation » (2002). Le langage utilisé est celui de la construction d’un appareil de mesure, mais les mots sont trompeurs — on ne construit pas les personnes qui utilisent les échelles ou les tests psychotechniques.

Exercice non corrigé

Références

Falissard, B. (2008). Mesurer la subjectivité en santé : perspective méthodologique et statistique. Paris: Masson.
Laveault, D., & Grégoire, J. (2002). Introduction aux théories des tests en psychologie et en sciences de l’éducation (2e éd.). Paris: De Boeck Université.

5a. Mesurer avec les réponses à un item : fonctions de mesurage

Comment les réponses à un item de test psychologique (plus proprement, psychotechnique) pourraient-elles mesurer une quantité de grandeur ?

1. Format de réponse : discret vs. continu

Précisons tout d’abord la notion de format de réponse. La réponse à un item psychotechnique a deux formats possibles : soit la réponse varie dans un ensemble discret, soit elle varie dans un ensemble continu.

Par exemple, si on décrit la réponse à l’item

23 + 9 = ?

comme correcte ou incorrecte, le format est discret. Si on demande à un patient d’indiquer (ce qu’on appelle) l’intensité de sa douleur sur l’échelle (dite analogique) ci-dessous,

eva_reglette

le format est continu : la réponse est décrite comme la distance qui sépare l’origine (0) du curseur de la réglette (source de l’image : SFETD).

2. Fonction de mesurage

Dans les deux cas, le problème est : comment la réponse dépend-elle de la quantité qu’on veut mesurer ? Appelons capacité de calcul mental la grandeur qui a inspiré l’item de calcul mental. Une réponse correcte à l’item de calcul mental indique une capacité plus grande que la capacité indiquée par une réponse incorrecte ; sur l’échelle analogique de douleur, plus le curseur se déplace vers la gauche (quand on regarde la « face de mesure »), plus la douleur augmente. La relation « plus une quantité augmente, plus autre chose, qui en dépend et qui se voit, augmente », peut être formalisée par le concept mathématique de fonction.

Le format continu est peut-être plus intuitif pour saisir cette notion de fonction de mesurage. Qu’est-ce qui permet de dire que plus le curseur se déplace vers le 10, plus la douleur augmente ? C’est l’hypothèse que le positionnement du curseur par le patient dépend de la quantité de sa douleur : à tout point de [0, max], c’est-à-dire à toute quantité de douleur, correspond un et un seul point de [0 cm, 10 cm], c’est-à-dire du segment dans lequel varie le curseur.

On peut alors, par un petit effort de visualisation, considérer une courbe, représentative de la fonction de mesurage (voir 36a). La fonction est définie dans le segment [0, max] (ensemble de départ), où 0 correspond à « aucune douleur » et max correspond à la douleur maximale qui puisse exister ; elle prend ses valeurs dans le segment [0 cm, 10 cm] (ensemble d’arrivée). Cette fonction est croissante, c’est-à-dire que si on fait augmenter la douleur, on fait augmenter la distance du curseur. En langage mathématique,

q1 > q2 => F(q1) > F(q2),

q1, q2 désignent des quantités de douleur et F désigne la fonction qui détermine les distances correspondantes.

On ne connaît pas cette fonction et on a l’embarras du choix. On peut imaginer une courbe rectiligne, concave, ou encore convexe comme le montre la figure ci-dessous.

36a2

On ignore si une quantité d’augmentation donnée a les mêmes répercussions empiriques (i.e., observables sur la position du curseur) selon que cette augmentation survient quand la douleur est petite, moyenne, ou grande. Ainsi par exemple, on ignore si la variation de douleur qui correspond à la variation du curseur quand il passe de 1 à 2 cm est la même que la variation de douleur qui correspond à la variation du curseur quand il passe de 8 à 9 cm. On ignore si le patient qui signale 4 cm a deux fois plus mal que lorsqu’il signale 2 cm.

Le centimètre est une unité de longueur ; on admet que la longueur mesurée mesure une quantité de douleur, d’une manière ordinale (c’est-à-dire qu’on parle le langage du « plus ou moins »). Tant qu’on n’a pas trouvé quelle est la fonction dont on suppose l’existence pour tel ou tel patient, on ne pourra pas mesurer sa douleur de manière métrique (i.e., en se fondant sur une unité de douleur).

Récapitulons : qu’une échelle de douleur mesure la douleur signifie qu’on admet que la distance du curseur dépend de manière croissante de la quantité de douleur. Cette dépendance (ou relation causale) est conceptualisée par une fonction dont on ignore la nature exacte. J’appelle cette fonction une fonction de mesurage (ou encore de liaison). Notre ignorance scientifique implique que la mesure de la douleur, si tant est qu’elle soit plausible, n’est pas métrique mais ordinale. Ce n’est pas parce que le format de réponse a une métrique que le mesurage de la quantité psychologique qui nous intéresse est un mesurage métrique. Pour approfondir ce point, voir 36a.

Exercice non corrigé (pour voir les réponses antérieures saisissez votre réponse)

Revenons à l’item de calcul mental : quelle fonction relie la capacité de calcul mental à l’ensemble {incorrecte, correcte} ? Cette fois-ci, l’ensemble d’arrivée est un ensemble discret (et fini). Nous partons de l’idée qu’une réponse correcte indique une capacité supérieure. La seule façon de spécifier la fonction de mesurage de cet item est, encore une fois, de faire appel à une fonction croissante. Il faut que

q1 > q2 => F(q1) ≥ F(q2),

q1, q2 désignent des quantités de capacité et F désigne la fonction qui détermine les réponses correspondantes. On est obligé d’utiliser le signe « ≥ » parce que le nombre de réponses possibles est inférieur au nombre de quantités possibles. La fonction est croissante, mais pas strictement.

La courbe représentative de la fonction est un « escalier » à deux paliers, séparés par un seuil dont on ignore la valeur. Le graphique ci-dessous montre à quoi cela ressemble (pour une généralisation à k>2 réponses possibles, voir l’exercice 33a).

Paliers

Ainsi, les réponses à l’item désignent non pas des quantités de capacité, mais des intervalles de quantités de capacité — les réponses 0 et 1 désignent respectivement les intervalles [0, A[ et [A, max]. C’est pourquoi le codage numérique des réponses en 0/1 peut faire illusion : ces nombres ne sont pas des quantités mais des nombres ordinaux. L’addition, la soustraction, la multiplication et la division ne sont pas définies sur ces nombres.

La pratique courante consiste à compter le nombre de réponses correctes, mais ce comptage n’est pas une mesure de la capacité, c’est le comptage du nombre de réponses correctes (prises comme unité de compte). La question de savoir comment ce comptage pourrait mesurer une grandeur psychologique reste entière.

3. Activités proposées autour de cet article

3.1. Tracez une fonction de mesurage de la douleur telle qu’une augmentation donnée quand la douleur est petite « se voit plus » sur l’échelle de douleur que lorsque la douleur est déjà forte.

3.2. Considérez un thermomètre domestique. La valeur 0° indique-t-elle l’absence de température ? La température mesurée dans une pièce passe de 5 à 10° : a-t-elle doublé ? Tracez la fonction de mesurage invoquée pour interpréter les observations.

3.3. Considérez un pèse-bébé (une balance qui est graduée en grammes). La valeur 0 g indique-t-elle l’absence de masse sur la balance ? La masse mesurée sur la balance passe de 5 à 10 g lorsqu’on ajoute un puis deux objets : a-t-elle doublé ? Tracez la fonction de mesurage invoquée pour interpréter les observations.

3.4. Voir 33a et 36a.

Cite this article as: Stéphane Vautier, "5a. Mesurer avec les réponses à un item : fonctions de mesurage", in Épistémologie de la psychologie, 17/04/2014, https://epistemo.hypotheses.org/555.

4a. Qu’est-ce qu’une explication scientifique ?

Question piège mais je tente une réponse pour l’exposer à la critique.

Expliquer un phénomène de manière scientifique, c’est invoquer la nécessité auquel l’être (ou l’entité) qui est le support (on dit) ontologique de ce phénomène obéit. Une loi scientifique énonce une nécessité métaphysique (ou encore, réputée réelle, supposée ou admise vraie par hypothèse).

Nécessité et impossibilité forment les deux faces du même concept. Si a est nécessaire, non-a est impossible et réciproquement si non-a est nécessaire, a est impossible.

La nécessité de a et l’impossibilité de non-a s’expriment dans le langage des probabilités par P(a) = 1 et P(non-a) = 0.

On n’explique donc pas un phénomène en disant qu’il est « très ou peu probable »1. D’ailleurs on ne sait pas mesurer des probabilités2. Les probabilités en tant qu’objets de la théorie mathématique n’ont d’intérêt scientifique, au sens strict de la recherche de réponses à des « pourquoi ces phénomènes ? » que si elles mettent sur la piste de nécessités (ou lois).

La causalité n’est rien d’autre que l’invocation d’une nécessité. La notion de causalité probabiliste est au pire contradictoire et au mieux mal définie3.

Tant qu’on est incapable d’invoquer une nécessité pour expliquer un phénomène, il faut reconnaître qu’on ne le comprend pas.

Pour finir dans le contexte de la psychologie : la psychologie scientifique contemporaine est une manière de dire des phrases pour cacher que la quasi-totalité des phénomènes psychologiques ne sont pas compris (ou expliqués). D’où l’intérêt de valoriser ce qu’un psychologue est capable de faire : inventorier ce qu’il ne comprend pas, parce qu’alors il peut faire un travail épistémologiquement serein.

Un grand merci à celles ou ceux qui voudront bien me contredire :). Ce noyau d’idées est développé en distinguant l’implication logique et la causalité dans 14a.

  1. ce qui relève en fait du calcul de certitude sous ignorance théorique et pas de l’intelligence dans laquelle on se trouve de ce qui se passe, c’est-à-dire des nécessités à l’oeuvre. []
  2. cf. l’article sur la théorie classique des tests []
  3. parce qu’on confond occurrence singulière et classe d’occurrences. []