« Où est passé l’homme ? »
+3
Monsieur Trololo
Esculape
oscarire
7 participants
Page 3 sur 6
Page 3 sur 6 • 1, 2, 3, 4, 5, 6
Re: « Où est passé l’homme ? »
Esculape a écrit:Oui, certes, il a intelligence, mais c'est celle du concepteur du programme ...
Pas seulement !
Il y a l'intelligence tirée des informations que la machine à accumulé.
C'est là où réside la grande différence entre les machines du 20ème siècle et celles du 21ème siècle, la quantité et la complexité du flot d'information traité.
Ca c'est un premier point.
2ème point vous parlez du concepteur du programme, or il n'y a pas juste un concepteur, il y en a plusieurs, intervenant chacun sur un niveau sur un module différent, et ce n'est pas juste une intelligence, mais la somme de plusieurs intelligences individuelles, donc une intelligence collective !
Vous connaissez la programmation Objet oui ou non ?
Un tel peu travailler sur tel sous programme, fonction, ou classe d'objet, un autre sur l'Algorithme principal etc ... etc ...
c'est une accumulation de travaux individuels qui font un tout.
Un lego géant réalisé par plusieurs personnes pour faire simple.
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
AH ! Enfin un texte intéressant sans agression.Monsieur Trololo a écrit:Esculape a écrit:Oui, certes, il a intelligence, mais c'est celle du concepteur du programme ...
Pas seulement !
Il y a l'intelligence tirée des informations que la machine à accumulé.
C'est là où réside la grande différence entre les machines du 20ème siècle et celles du 21ème siècle, la quantité et la complexité du flot d'information traité.
Ca c'est un premier point.
2ème point vous parlez du concepteur du programme, or il n'y a pas juste un concepteur, il y en a plusieurs, intervenant chacun sur un niveau sur un module différent, et ce n'est pas juste une intelligence, mais la somme de plusieurs intelligences individuelles, donc une intelligence collective !
Vous connaissez la programmation Objet oui ou non ?
L'iA, pour exister, devrait permettre à l'ordinateur de prendre des décisions seul ! Cela est évident.
Tant que l'ordinateur se bornera à exécuter des instructions rédigées par un plusieurs programmeurs, il ne fffera qu'exécuter de command es qui ne sont pas de lui.
Mais pour que l'ordinateur puisse prendre des décisions de LUI-MÊME, il est nécessaire que :
- Il comprenne le contexte dans lequel il travaille, c'est même un truisme !
- Un ordinateur exécute des instructions. S'il prend une décision, alors il doit nécessairement créer ses propres instructions dans le lange utilisé ou éventuellement dans son propre langage mais je n'y crois pas trop,ce langage n'étant formé que d'une succession de 0 et de 1.
La conclusion s'impose !
Mais je dois vous quitter pour l'instant, A plus tard.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Voilà, excusez moi, une visite impromptue.Monsieur Trololo a écrit:Esculape a écrit:Oui, certes, il a intelligence, mais c'est celle du concepteur du programme ...
Pas seulement !
Il y a l'intelligence tirée des informations que la machine à accumulé.
C'est là où réside la grande différence entre les machines du 20ème siècle et celles du 21ème siècle, la quantité et la complexité du flot d'information traité.
Ca c'est un premier point.
2ème point vous parlez du concepteur du programme, or il n'y a pas juste un concepteur, il y en a plusieurs, intervenant chacun sur un niveau sur un module différent, et ce n'est pas juste une intelligence, mais la somme de plusieurs intelligences individuelles, donc une intelligence collective !
Vous connaissez la programmation Objet oui ou non ?
Un tel peu travailler sur tel sous programme, fonction, ou classe d'objet, un autre sur l'Algorithme principal etc ... etc ...
c'est une accumulation de travaux individuels qui font un tout.
Un lego géant réalisé par plusieurs personnes pour faire simple.
Je termine. Nus avons reçu une formation aux langages-objet, mais pour ma part je n'en avais pas besoin pour mes calculs portant pour la plupart sur des équations différentielles et des intégrales à intégrer numériquement. J'y ajoute aussi des calculs de valeurs et vecteurs propres de matrices, calculs fréquents en mécanique quantique ainsi que d'autres opérations plus exotiques. Je programmais souvent à l'aide du lange APL du Dr. Iverson.
Mais je me suis beaucoup intéressé à l'informatique théorique, qui est presque un chapitre de la logique mathématique concernant dans l'une les fonctions récursives et dan l'autre la notion de calculabilité. D'ailleurs, McCarty s'est inspiré du lambda-calculus d'Alonzo Church pour créer son langage LISP. Je me suis intéressé aussi à la théorie de la complexité de Kolmogorov ainsi qu'à la théorie des langages formels et je me souviens d'une mémorable et amicale "prise de becs" avec Noam Chomsky lors d'un congrès aux USA.
Mais je sors du sujet et le m'arrête là.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Esculape a écrit:Je me suis intéressé aussi à la théorie de la complexité de Kolmogorov ...
Je ne connais pas cette théorie, mais de toute évidence, dans la nature des système très complexes peuvent avoir des "briques" de base relativement simples (Ex l'ADN, molecules, etc ...), et je ne vois pas pourquoi un système ayant des briques binaires échapperait à la règle.
L'ADN n'a que 4 briques de base : adénine (A), cytosine (C), guanine (G) ou thymine (T)
Et il arrrive a vous coder aussi bien un pissenlit qu'un bonhomme.
L'écriture (latine) utilise un alphabet, de juste 26 lettres, et pourtant on a écrit des millions d'ouvrages avec.
La musique occidentale n'a que 12 notes), et on à écrit des millions de chanson ou pièces musicales avec.
Alors en quoi n'avoir que des 1 et des 0 pour brique de base nous empêcherait d'atteindre la complexité ?
Non vraiment je ne vois pas !
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
et l'atome n'a que trois briques élémentaires qui constituent toute la matière.
Agathe Auproux- Disciple
- Messages : 27
Date d'inscription : 07/09/2021
Re: « Où est passé l’homme ? »
Agathe Auproux a écrit:et l'atome n'a que trois briques élémentaires qui constituent toute la matière.
Egalement, bon exemple !
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Vous passez à côté de l'essentiel : La pensée n'est pas algorithmique ! Le cerveau n'est pas une machine de Turing !Monsieur Trololo a écrit:Esculape a écrit:Je me suis intéressé aussi à la théorie de la complexité de Kolmogorov ...
Je ne connais pas cette théorie, mais de toute évidence, dans la nature des système très complexes peuvent avoir des "briques" de base relativement simples (Ex l'ADN, molecules, etc ...), et je ne vois pas pourquoi un système ayant des briques binaires échapperait à la règle.
L'ADN n'a que 4 briques de base : adénine (A), cytosine (C), guanine (G) ou thymine (T)
Et il arrrive a vous coder aussi bien un pissenlit qu'un bonhomme.
L'écriture (latine) utilise un alphabet, de juste 26 lettres, et pourtant on a écrit des millions d'ouvrages avec.
La musique occidentale n'a que 12 notes), et on à écrit des millions de chanson ou pièces musicales avec.
Alors en quoi n'avoir que des 1 et des 0 pour brique de base nous empêcherait d'atteindre la complexité ?
Non vraiment je ne vois pas !
Si vous le désirez, je développerai tout ça plus profondément.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Esculape a écrit:
Vous passez à côté de l'essentiel : La pensée n'est pas algorithmique !
Possible, c'est ce qu'on appelerait conscience alors, pour le distinguer de l'intelligence
Esculape a écrit:
Le cerveau n'est pas une machine de Turing !
Si vous le désirez, je développerai tout ça plus profondément.
Oui prenez votre temps, j'ai à faire maintenant je reviendrais le soir.
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Bonjour Agahte ,Agathe Auproux a écrit:et l'atome n'a que trois briques élémentaires qui constituent toute la matière.
L'atome est bien plus compliqué que cela !
Bien sûr, sur un niveau élémentaire, on peut présenter l'atome comme formé de protons, de neutrons et d'électrons. Oui, ça fait bien trois !
Mais le proton est lui même formé de deux quarks "up" et d'un quark "down" et le neutron est formé de deux quarks "down" et d'un quark "up".
Mais ce n'est pas tout ! Ces quarks sont eux mêmes liés par des " gluons " et, en plus , tout le noyau de l'atome baigne dans une "mer" de quarks et de gluons "virtuels"
Quant aux électrons, leur comportement est soumis à certaines lois sur lesquelles je n'insisterai pas mais qui compliquent encore l'atome.
Amicalement.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
D'accord, Avec plaisir.Monsieur Trololo a écrit:Esculape a écrit:
Vous passez à côté de l'essentiel : La pensée n'est pas algorithmique !
Possible, c'est ce qu'on appelerait conscience alors, pour le distinguer de l'intelligenceEsculape a écrit:
Le cerveau n'est pas une machine de Turing !
Si vous le désirez, je développerai tout ça plus profondément.
Oui prenez votre temps, j'ai à faire maintenant je reviendrais le soir.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Esculape a écrit:
Bien sûr, sur un niveau élémentaire, on peut présenter l'atome comme formé de protons, de neutrons et d'électrons. Oui, ça fait bien trois !
Mais le proton est lui même formé de deux quarks "up" et d'un quark "down" et le neutron est formé de deux quarks "down" et d'un quark "up".
Mais ce n'est pas tout ! Ces quarks sont eux mêmes liés par des " gluons " et, en plus , tout le noyau de l'atome baigne dans une "mer" de quarks et de gluons "virtuels"
Quant aux électrons, leur comportement est soumis à certaines lois sur lesquelles je n'insisterai pas mais qui compliquent encore l'atome.
Amicalement.
Pour en revenir à l'informatique, on est un peu sur les mêmes principes, plusieurs niveau de complexité qui s'imbriquent, un Algoritme principal faisant appelle à sous-programmes, fonctions, classes d'objets, eux même composés de sous-programmes plus simples et ainsi de suite pour arriver au codage de la mémoire en dur avec des 0 et des 1, qui elle même répose sur des composants électroniques.
J'ai étudié à la fois des langages complexes type C++, aussi bien que de l'assembleur, et allant même au niveau matériel de l'électronique.
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Oui, mais pour ce qui concerne notre cerveau, il y a une grande différence avec les neurones qui n'ont d'ailleurs pas encore été complètement compris et dont la logique nous échappe encore. De plus, leur logique ne semble pas binaire à cause des arrivées du signal dans le neurone qui est fonction du fait qu'il existe des arrivées excitatrices et d'autres inhibitrices sans compter le rôle encore inexpliqué des "microtubules" présents dans l'axone et que Roger Penrose leur voit des propriétés quantiques, ce qui ne simplifie la chose !Monsieur Trololo a écrit:Esculape a écrit:
Bien sûr, sur un niveau élémentaire, on peut présenter l'atome comme formé de protons, de neutrons et d'électrons. Oui, ça fait bien trois !
Mais le proton est lui même formé de deux quarks "up" et d'un quark "down" et le neutron est formé de deux quarks "down" et d'un quark "up".
Mais ce n'est pas tout ! Ces quarks sont eux mêmes liés par des " gluons " et, en plus , tout le noyau de l'atome baigne dans une "mer" de quarks et de gluons "virtuels"
Quant aux électrons, leur comportement est soumis à certaines lois sur lesquelles je n'insisterai pas mais qui compliquent encore l'atome.
Amicalement.
Pour en revenir à l'informatique, on est un peu sur les mêmes principes, plusieurs niveau de complexité, un Algoritme principal faisant appelle à sous-programmes, de fonctions, des classes d'objets, eux même composés de sous-programmes plus simples et ainsi de suite pour arriver au codage de la mémoire en dur avec des 0 et des 1.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Pour Monsieur Trololo,
Bonsoir,
Tout d'abord, il est indispensable que j'évoque la machine de Turing.
Cette machine (théorique) est formée d'un ruban infini dans les deux sens et divisé en cases. Dans ces cases on peut y placer un bâtonnet | ou rien. Ce rien sera représenté dans la suite par un b (pour "blanc").
Ce ruban est "lu" par une tête de lecture/écriture dont le rôle apparaîtra dans le dessin ci-dessous.
On programme cette machine à l'aide de commandes très simples sur plusieurs lignes, ces lignes étant en fait des "états" de la machine.
Une commande se présente ainsi par exemple :
|Dqn où le | indique | indique à la tête de lecture d' placer un bâtonnet dans la case lue et d'aller chercher l'instruction suivante à la ligne qn (n = 1, 2, 3 etc)
Mais un dessin vaut mieux que cent discours :
Si ce dessin n'est pas suffisamment explicite, je l'expliquerai plus en détail.
Ce qui est important est l'extrême simplicité du langage de programmation de cette machine.
Eh bien, on démontre ce résultat surprenant : Les langages même les plus évolués des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing !
Mais, fait encore plus surprenant, on démontre aussi qu'il ne peut exister, en informatique, de langage logiquement plus puissant que celui de la machine de Turing.
Or, un programme pour cette machine de même sue pour les ordinateurs sont nécessairement des algorithmes.
Or, la pensée n'est pas algorithmique. La conclusion 'impose ...
Bonne soirée.
Tout d'abord, il est indispensable que j'évoque la machine de Turing.
Cette machine (théorique) est formée d'un ruban infini dans les deux sens et divisé en cases. Dans ces cases on peut y placer un bâtonnet | ou rien. Ce rien sera représenté dans la suite par un b (pour "blanc").
Ce ruban est "lu" par une tête de lecture/écriture dont le rôle apparaîtra dans le dessin ci-dessous.
On programme cette machine à l'aide de commandes très simples sur plusieurs lignes, ces lignes étant en fait des "états" de la machine.
Une commande se présente ainsi par exemple :
|Dqn où le | indique | indique à la tête de lecture d' placer un bâtonnet dans la case lue et d'aller chercher l'instruction suivante à la ligne qn (n = 1, 2, 3 etc)
Mais un dessin vaut mieux que cent discours :
Si ce dessin n'est pas suffisamment explicite, je l'expliquerai plus en détail.
Ce qui est important est l'extrême simplicité du langage de programmation de cette machine.
Eh bien, on démontre ce résultat surprenant : Les langages même les plus évolués des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing !
Mais, fait encore plus surprenant, on démontre aussi qu'il ne peut exister, en informatique, de langage logiquement plus puissant que celui de la machine de Turing.
Or, un programme pour cette machine de même sue pour les ordinateurs sont nécessairement des algorithmes.
Or, la pensée n'est pas algorithmique. La conclusion 'impose ...
Bonne soirée.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Esculape a écrit:
Oui, mais pour ce qui concerne notre cerveau, il y a une grande différence avec les neurones qui n'ont d'ailleurs pas encore été complètement compris et dont la logique nous échappe encore. De plus, leur logique ne semble pas binaire à cause des arrivées du signal dans le neurone qui est fonction du fait qu'il existe des arrivées excitatrices et d'autres inhibitrices sans compter le rôle encore inexpliqué des "microtubules" présents dans l'axone et que Roger Penrose leur voit des propriétés quantiques, ce qui ne simplifie la chose !
Ca n'a aucune importance, ce qui compte ce sont les connections, le réseau.
A partir du moment ou vous pouvez connecter des ordinateurs en réseau décentralisé le tour est joué.
D'avis que vos connaissances en matière de réseau sont très limitées. Vous n'avez travaillé que sur du Mainframe IBM je me trompe ?
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Il est vrai que mon employeur, une Société high tech ne travaillait qu'avec des ordinateurs IBM, en réseau ou non.Monsieur Trololo a écrit:Esculape a écrit:
Oui, mais pour ce qui concerne notre cerveau, il y a une grande différence avec les neurones qui n'ont d'ailleurs pas encore été complètement compris et dont la logique nous échappe encore. De plus, leur logique ne semble pas binaire à cause des arrivées du signal dans le neurone qui est fonction du fait qu'il existe des arrivées excitatrices et d'autres inhibitrices sans compter le rôle encore inexpliqué des "microtubules" présents dans l'axone et que Roger Penrose leur voit des propriétés quantiques, ce qui ne simplifie la chose !
Ca n'a aucune importance, ce qui compte ce sont les connections, le réseau.
A partir du moment ou vous pouvez connecter des ordinateurs en réseau décentralisé le tour est joué.
D'avis que vos connaissances en matière de réseau sont très limitées. Vous n'avez travaillé que sur du Mainframe IBM je me trompe ?
Le problème fondamental de l'IA n'est pas là mais en donne une idée dans mon topo sur la machine de Turing et sur sa logique rudimentaire QUI EST LA MËME QUE CELLE DES GRANDS ORDINATEURS.
Que ces ordinateurs travaillent en réseaux ou non, leur logique reste la même. Et, de plus, et ce détail devrait quand même compter, la puissance LOGIQUE de leur langage ne peut être améliorée et reste au niveau des machines de Turing.. Cela devrait faire réfléchir.
J'insiste sur un point : Lisez l'ouvrage de Roger Penrose "Les ombres de l'esprit" il y développe des idées complémentaires aux miennes et plus dures encore contre l'IA.
Quoi qu'il en soit, le problème fondamental de l'IA est celui-ci : Un ordinateur peut-il prendre de lui même des décisions et, si oui, comment peut-il COMPRENDRE le contexte dans lequel il prend cette décision dont la nature dépende de cette compréhension ? Comment peut-il créer et ajouter des instructions de son propre cru ?
Mais je reconnais qu'il existe encore des partisans convaincus pour l'IA. Vous en êtes. C'est votre opinion et elle est tout aussi respectable. Jusqu'à sa mort, le "pape" aux USA de l'IA, le regretté Marvin Minsky, que j'ai souvent rencontré au MIT,
a cru fermement en l'avenir de l'IA. Vous êtes donc en bonne compagnie.
P.S. Un jour, lors d'un symposium au MIT, un logicien, après une série de questions subtiles, a forcé Minsky a admettre qu'un algorithme doit être intelligent pour ne pas entrer en contradiction avec ses arguments.
De son côté, Douglas Hofstadter célèbre logicien américain, soutenant que la conscience peut émerger d'une transition de phase dans une substructure logique suffisamment complexe, je lui ai demandé ce qu'il entendait par "transition de phase" dans ce cas précis et comment il définissait "suffisamment complexe" ?. Il répondit qu'il y réfléchissait, conscient que cette idée devait être développée avec plus d précisions.
Enfin, je précise que mon domaine est la mathématique et la physique. Mais la mathématique invite fortement à s'intéresser à la logique mathématique, comme c'est d'ailleurs le cas pour la quasi-totalité des mathématiciens.
D'autre part, mathématiciens et physiciens s'interrogent évidemment sur les possibilités des ordinateurs et sont ainsi naturellement amenés à se poser des questions sur l'IA.
Je crois qu'il y a un malentendu sur l'expression IA !
Vous défendez ce que l'on appelle "l'intelligence artificielle faible" alors que moi, je m'intéresse à l'intelligence artificielle forte.
L'IA faible s'apparente plutôt à des "systèmes experts" sophistiqués dont l'aboutissement actuel est proche du "deep learning" dans lesquels il n'y a pas une once d'intelligence.
En IA forte, le mot "intelligence" y est pris dans son sens habituel. C'est à l'IA forte que s'intéressait Marvin Minsky.
En bref, en IA faible, l'ordinateur ne comprend pas ce qu'il fait.
En IA forte, il doit impérativement comprendre ce qu'il fait.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
Serons-nous jugés, demain, par des “robots juges” ?
La loi peut-elle être confiée aux bons soins d’une IA, comme s’il ne s’agissait que d’une histoire de “codes” ? Et si demain, les tribunaux délibéraient en ligne ? Et si les juges ne prenaient plus que des décisions pré-mâchées par des ordinateurs ? Au-delà de la faisabilité technique de déléguer à des machines des décisions de justice, nous dirigeons-nous vers une justice expéditive, dégagée de toute appréciation humaine ?
De la santé aux divertissements multimédias, en passant par les rencontres amoureuses, l’information et les déplacements, l’IA est partout, dans à peu près tous les secteurs. Grâce à l’apprentissage machine, il est déjà possible de prédire quantité d’événements, des cours de la bourse aux futurs cyclones… jusqu’aux crimes et délits.
Justice prédictive, systèmes opaques
Nous vous avions déjà parlé de PredPol, un logiciel de “police prédictive” utilisé par les polices américaines et britanniques. Il permet de se rendre sur les lieux d’un crime… avant qu’il soit commis. Pour prédire le vol d’une voiture, l’algorithme s’avère efficace, mais dans le cas d’un acte plus “réfléchi”, c’est une autre histoire. Et pour cause, puisque le comportement humain demeure... imprévisible. Le service de protection de l’enfance du comté de Los Angeles (DCFS) le sait, mais tente aussi depuis 2016 de se servir d’algorithmes pour aller encore plus loin, et “identifier” les enfants présentant un risque élevé de se retrouver un jour en prison. Ou en tout cas de tomber dans la délinquance. Là encore, le logiciel en question, “SafeMeasures”, n’est pas exempt d’erreurs potentielles, ni de biais, ni de risques de détournement des données.
Quoi qu’il en soit, une partie de la police américaine semble persuadée qu’avec l’IA, il sera à terme possible de prédire les délits, et de les empêcher avant même qu’ils ne se produisent, comme dans Minority Report. Mais les pouvoirs publics US vont encore plus loin en pratiquant ce que l’on appelle la “justice prédictive”. L’idée : utiliser l’intelligence artificielle pour prédire l’issue d’une affaire judiciaire, ou pour assister le juge dans ses décisions. Une justice “assistée par ordinateur”.
Concrètement, le logiciel Compas (Correctional Offender Management Profiling for Alternative Sanctions) est utilisé par les juges d’au moins dix États américains pour décider de la remise en liberté conditionnelle de personnes emprisonnées, en fonction d’un “taux de récidive”. Ce taux est calculé par une IA, qui se base sur des questionnaires et une vaste base de données, recensant des années d’affaires et de cas particuliers, corrélés à la récidive ou non des délinquants et criminels concernés. En fonction de cas anciens, et à partir des plus ressemblants, le système propose ainsi au juge de libérer son “client”, ou de le laisser en prison.
Mais tout comme Predpol et SafeMeasures, ce genre de logiciel n’est pas non plus parfait. Selon une étude récente, Compas ne serait pas plus efficace pour “prédire” un risque de récidive qu’un système jouant à pile ou face, en plus d’être bourré de biais discriminatoires, notamment concernant les Afro-américains. “Le risque d’un logiciel comme Compas, c’est d’abord que ce genre de logiciel donne des résultats assez mauvais, car le problème à résoudre est tout sauf simple quand il s’agit d’analyser des données humaines. Et on s’est aussi aperçu qu’il surestime les risques de récidive pour les noirs, et qu’il a tendance à envoyer plus facilement en prison ces derniers. Ce n’est pas un logiciel raciste, mais il se base sur des valeurs qui sont corrélées avec l’origine ethnique, et il se base aussi sur des décisions de juges qui présentaient peut être, de leur côté, des biais ethniques”, explique Serge Abiteboul, informaticien, chercheur à l'ENS Paris et directeur de recherche à l'Inria, dans l’émission Tout est numérique.
Autre problématique, avec une telle “justice prédictive” : avec l’IA, plus de place à l’interprétation humaine, basée sur l’intuition, l’intime conviction, l’appréciation du contexte et des passions. Inflexible, un tel système explique, selon Antoine Garapon, Magistrat, secrétaire général de l'Institut des Hautes études sur la justice (IHEJ) et co-auteur de "Justice digitale”, pourquoi les États-Unis ont connu ces 15 dernières années une explosion considérable de sa “population pénale” et une “incarcération de masse”. En effet, les logiciels tels que Compas utilisent des “guidelines”, d’immenses “grilles de peines”, qui permettent aux juges de prendre des décisions quasi-automatiques en fonction de l’âge, du délit et du taux de récidive des prévenus. Alors que “sur le papier, un délit est souvent très différent de ce à quoi il ressemble dans la réalité”, la justice prédictive pourrait ainsi devenir un “carburant pour faire monter les statistiques pénales”, redoute le juriste.
À moins d’être considérablement améliorés jusqu’à devenir “excellents et justes” (ce qui risque de prendre du temps), de tels systèmes d’IA ne devraient donc pas, estiment Antoine Garapon et Serge Abiteboul, être utilisés pour orienter les décisions importantes des juges dans des affaires pénales. D’ailleurs, c’est sans doute pourquoi nombre de juges américains préfèrent encore se fier à leur propre opinion, plutôt qu’à celui de Compas. Mais selon un rapport de l’Electronic Privacy Information Center, Compas et d’autres logiciels similaires sont actuellement utilisés par “de nombreux systèmes judiciaires “aux Etats-Unis. Ils servent à déterminer la durée des peines carcérales, et même à déterminer la culpabilité ou l’innocence d’un suspect.
Dans le “Tribunal des algorithmes“, Emmanuel Poinas, magistrat et conseiller à la cour d’appel d’Aix en Provence, imagine un futur dystopique où des assistants intelligents remplaceraient les juges. “Dès à présent, des questions très concrètes se posent sur l'apport des technologies de l'information et des intelligences artificielles à l'application concrète de la loi : comment interpréter le résultat d'une décision de justice produite par un algorithme ? Est-il possible de « liker » les juges et les décisions qu'ils rendent sans porter atteinte à leur indépendance ? L'évolution conduira-t-elle à une justice sans procès et des jugements sans travail humain ? Dans ces conditions, comment garantir à tout justiciable les conditions d'un procès équitable devant un tribunal impartial ?”, s’interroge-t-il.
Emmanuel Poinas rappelle notamment que Compas et nombre d’autres logiciels du même type sont dangereusement “opaques”. Car les entreprises privées qui les conçoivent ne dévoilent pas leurs codes - des codes susceptibles d’orienter des décisions cruciales de justice. En 2017, un américain, Eric L. Loomis, a ainsi été condamné à 6 ans de prison suite à un verdict rendu via Compas, qui estimait que l’accusé présentait un “risque élevé” de récidive. Loomis a contesté cette décision et attaqué le concepteur du logiciel, Northpointe Inc., affirmant que ses droits avaient été violés par l’usage d’un algorithme qu’il n’était pas en mesure de consulter lui-même.
la suite dans le lien dessous
https://www.cnetfrance.fr/news/serons-nous-juges-demain-par-des-robots-juges-39896657.htm#:~:text=Concr%C3%A8tement%2C%20le%20logiciel%20Compas%20(Correctional,un%20%E2%80%9Ctaux%20de%20r%C3%A9cidive%E2%80%9D.
La loi peut-elle être confiée aux bons soins d’une IA, comme s’il ne s’agissait que d’une histoire de “codes” ? Et si demain, les tribunaux délibéraient en ligne ? Et si les juges ne prenaient plus que des décisions pré-mâchées par des ordinateurs ? Au-delà de la faisabilité technique de déléguer à des machines des décisions de justice, nous dirigeons-nous vers une justice expéditive, dégagée de toute appréciation humaine ?
De la santé aux divertissements multimédias, en passant par les rencontres amoureuses, l’information et les déplacements, l’IA est partout, dans à peu près tous les secteurs. Grâce à l’apprentissage machine, il est déjà possible de prédire quantité d’événements, des cours de la bourse aux futurs cyclones… jusqu’aux crimes et délits.
Justice prédictive, systèmes opaques
Nous vous avions déjà parlé de PredPol, un logiciel de “police prédictive” utilisé par les polices américaines et britanniques. Il permet de se rendre sur les lieux d’un crime… avant qu’il soit commis. Pour prédire le vol d’une voiture, l’algorithme s’avère efficace, mais dans le cas d’un acte plus “réfléchi”, c’est une autre histoire. Et pour cause, puisque le comportement humain demeure... imprévisible. Le service de protection de l’enfance du comté de Los Angeles (DCFS) le sait, mais tente aussi depuis 2016 de se servir d’algorithmes pour aller encore plus loin, et “identifier” les enfants présentant un risque élevé de se retrouver un jour en prison. Ou en tout cas de tomber dans la délinquance. Là encore, le logiciel en question, “SafeMeasures”, n’est pas exempt d’erreurs potentielles, ni de biais, ni de risques de détournement des données.
Quoi qu’il en soit, une partie de la police américaine semble persuadée qu’avec l’IA, il sera à terme possible de prédire les délits, et de les empêcher avant même qu’ils ne se produisent, comme dans Minority Report. Mais les pouvoirs publics US vont encore plus loin en pratiquant ce que l’on appelle la “justice prédictive”. L’idée : utiliser l’intelligence artificielle pour prédire l’issue d’une affaire judiciaire, ou pour assister le juge dans ses décisions. Une justice “assistée par ordinateur”.
Concrètement, le logiciel Compas (Correctional Offender Management Profiling for Alternative Sanctions) est utilisé par les juges d’au moins dix États américains pour décider de la remise en liberté conditionnelle de personnes emprisonnées, en fonction d’un “taux de récidive”. Ce taux est calculé par une IA, qui se base sur des questionnaires et une vaste base de données, recensant des années d’affaires et de cas particuliers, corrélés à la récidive ou non des délinquants et criminels concernés. En fonction de cas anciens, et à partir des plus ressemblants, le système propose ainsi au juge de libérer son “client”, ou de le laisser en prison.
Mais tout comme Predpol et SafeMeasures, ce genre de logiciel n’est pas non plus parfait. Selon une étude récente, Compas ne serait pas plus efficace pour “prédire” un risque de récidive qu’un système jouant à pile ou face, en plus d’être bourré de biais discriminatoires, notamment concernant les Afro-américains. “Le risque d’un logiciel comme Compas, c’est d’abord que ce genre de logiciel donne des résultats assez mauvais, car le problème à résoudre est tout sauf simple quand il s’agit d’analyser des données humaines. Et on s’est aussi aperçu qu’il surestime les risques de récidive pour les noirs, et qu’il a tendance à envoyer plus facilement en prison ces derniers. Ce n’est pas un logiciel raciste, mais il se base sur des valeurs qui sont corrélées avec l’origine ethnique, et il se base aussi sur des décisions de juges qui présentaient peut être, de leur côté, des biais ethniques”, explique Serge Abiteboul, informaticien, chercheur à l'ENS Paris et directeur de recherche à l'Inria, dans l’émission Tout est numérique.
Autre problématique, avec une telle “justice prédictive” : avec l’IA, plus de place à l’interprétation humaine, basée sur l’intuition, l’intime conviction, l’appréciation du contexte et des passions. Inflexible, un tel système explique, selon Antoine Garapon, Magistrat, secrétaire général de l'Institut des Hautes études sur la justice (IHEJ) et co-auteur de "Justice digitale”, pourquoi les États-Unis ont connu ces 15 dernières années une explosion considérable de sa “population pénale” et une “incarcération de masse”. En effet, les logiciels tels que Compas utilisent des “guidelines”, d’immenses “grilles de peines”, qui permettent aux juges de prendre des décisions quasi-automatiques en fonction de l’âge, du délit et du taux de récidive des prévenus. Alors que “sur le papier, un délit est souvent très différent de ce à quoi il ressemble dans la réalité”, la justice prédictive pourrait ainsi devenir un “carburant pour faire monter les statistiques pénales”, redoute le juriste.
À moins d’être considérablement améliorés jusqu’à devenir “excellents et justes” (ce qui risque de prendre du temps), de tels systèmes d’IA ne devraient donc pas, estiment Antoine Garapon et Serge Abiteboul, être utilisés pour orienter les décisions importantes des juges dans des affaires pénales. D’ailleurs, c’est sans doute pourquoi nombre de juges américains préfèrent encore se fier à leur propre opinion, plutôt qu’à celui de Compas. Mais selon un rapport de l’Electronic Privacy Information Center, Compas et d’autres logiciels similaires sont actuellement utilisés par “de nombreux systèmes judiciaires “aux Etats-Unis. Ils servent à déterminer la durée des peines carcérales, et même à déterminer la culpabilité ou l’innocence d’un suspect.
Dans le “Tribunal des algorithmes“, Emmanuel Poinas, magistrat et conseiller à la cour d’appel d’Aix en Provence, imagine un futur dystopique où des assistants intelligents remplaceraient les juges. “Dès à présent, des questions très concrètes se posent sur l'apport des technologies de l'information et des intelligences artificielles à l'application concrète de la loi : comment interpréter le résultat d'une décision de justice produite par un algorithme ? Est-il possible de « liker » les juges et les décisions qu'ils rendent sans porter atteinte à leur indépendance ? L'évolution conduira-t-elle à une justice sans procès et des jugements sans travail humain ? Dans ces conditions, comment garantir à tout justiciable les conditions d'un procès équitable devant un tribunal impartial ?”, s’interroge-t-il.
Emmanuel Poinas rappelle notamment que Compas et nombre d’autres logiciels du même type sont dangereusement “opaques”. Car les entreprises privées qui les conçoivent ne dévoilent pas leurs codes - des codes susceptibles d’orienter des décisions cruciales de justice. En 2017, un américain, Eric L. Loomis, a ainsi été condamné à 6 ans de prison suite à un verdict rendu via Compas, qui estimait que l’accusé présentait un “risque élevé” de récidive. Loomis a contesté cette décision et attaqué le concepteur du logiciel, Northpointe Inc., affirmant que ses droits avaient été violés par l’usage d’un algorithme qu’il n’était pas en mesure de consulter lui-même.
la suite dans le lien dessous
https://www.cnetfrance.fr/news/serons-nous-juges-demain-par-des-robots-juges-39896657.htm#:~:text=Concr%C3%A8tement%2C%20le%20logiciel%20Compas%20(Correctional,un%20%E2%80%9Ctaux%20de%20r%C3%A9cidive%E2%80%9D.
Frère Barnabé- Vénérable
- Messages : 29046
Date d'inscription : 11/05/2017
Age : 61
Localisation : saint Etienne
Re: « Où est passé l’homme ? »
Esculape a écrit:
Que ces ordinateurs travaillent en réseaux ou non, leur logique reste la même.
Ce qui fait la complexité c'est le réseau, pas le mode de fonctionnement de l'ordinateur.
Si vous préférez pour faire très simple considérez qu'un ordinateur est juste comme un neurone, et que l'ensemble des ordinateurs connectés entre eux seraient le cerveau.
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Que l'on connecte 100 milliards d'ordinateurs cela les dotera-t-il de la pensée ?Monsieur Trololo a écrit:Esculape a écrit:
Que ces ordinateurs travaillent en réseaux ou non, leur logique reste la même.
Ce qui fait la complexité c'est le réseau, pas le mode de fonctionnement de l'ordinateur.
Si vous préférez pour faire très simple considérez qu'un ordinateur est juste comme un neurone, et que l'ensemble des ordinateurs connectés entre eux seraient le cerveau.
Or, toute décision est nécessairement précédée d'une réflexion laquelle émane de la pensée. Doté d'une IA, l'ordinateur pense-t-il ? J'insiste sur le fait démontré que la pensée n'est pas algorithmique. Tout est là !
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
J’ai toujours dit que ces robots devaient être des outils et non des remplaçants, la justice et la loi sont deux choses différentes.
Plaristes Evariste- Vénérable
- Messages : 25190
Date d'inscription : 04/06/2020
Re: « Où est passé l’homme ? »
Toute discussion sur l'IA forte doit impérativement tenir compte des faits suivants DEMONTRES :
1) Les langages des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing.
2) Il est impossible de créer un langage LOGIQUEMENT plus puissant que celui de la machine de Turing.
3) La pensée n'est pas algorithmique.
Un superordinateur tel que le Titan du labo d'Oak Ridge compte 560640 processeurs interconnectés. Il n'est pas intelligent.
DE plus, un ordinateur traite de l'information, alors qu'un neurone se contente de la transmettre.
1) Les langages des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing.
2) Il est impossible de créer un langage LOGIQUEMENT plus puissant que celui de la machine de Turing.
3) La pensée n'est pas algorithmique.
Un superordinateur tel que le Titan du labo d'Oak Ridge compte 560640 processeurs interconnectés. Il n'est pas intelligent.
DE plus, un ordinateur traite de l'information, alors qu'un neurone se contente de la transmettre.
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
n'a t'on pas rendu les matières première conducteurs d'informations dans le savoir et connaissances aux humain(e)s , comme par la fabrication de processeurs , par cobalt , or , platine et autres (qui selon moi d'importer l'intelligence humaine dedans ) , comme pour la connexion internet google et autres serveurs pour chercher des informations et d'avoir des connaissance plus rapidement , que de les chercher dans des livres ou par l'intermédiaire d'humain(e)s ,qui ne correspondent pas forcément à mes recherches , donc perdre son temps pour rien , peut on paragoner que c'est un parallèle de recherches et connaissances plus perfectionné que chez l'humain(e)s???Esculape a écrit:Toute discussion sur l'IA forte doit impérativement tenir compte des faits suivants DEMONTRES :
1) Les langages des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing.
2) Il est impossible de créer un langage LOGIQUEMENT plus puissant que celui de la machine de Turing.
3) La pensée n'est pas algorithmique.
Un superordinateur tel que le Titan du labo d'Oak Ridge compte 560640 processeurs interconnectés. Il n'est pas intelligent.
DE plus, un ordinateur traite de l'information, alors qu'un neurone se contente de la transmettre.
Frère Barnabé- Vénérable
- Messages : 29046
Date d'inscription : 11/05/2017
Age : 61
Localisation : saint Etienne
Re: « Où est passé l’homme ? »
et donc se perfectionner des connaissances par l'ordinateur que par l'humain(e) , car l'humain(e) se sentant limité dans son intelligence ???aPOTRE a écrit:n'a t'on pas rendu les matières première conducteurs d'informations dans le savoir et connaissances aux humain(e)s , comme par la fabrication de processeurs , par cobalt , or , platine et autres (qui selon moi d'importer l'intelligence humaine dedans ) , comme pour la connexion internet google et autres serveurs pour chercher des informations et d'avoir des connaissance plus rapidement , que de les chercher dans des livres ou par l'intermédiaire d'humain(e)s ,qui ne correspondent pas forcément à mes recherches , donc perdre son temps pour rien , peut on paragoner que c'est un parallèle de recherches et connaissances plus perfectionné que chez l'humain(e)s???Esculape a écrit:Toute discussion sur l'IA forte doit impérativement tenir compte des faits suivants DEMONTRES :
1) Les langages des ordinateurs ne sont pas LOGIQUEMENT plus puissants que celui de la machine de Turing.
2) Il est impossible de créer un langage LOGIQUEMENT plus puissant que celui de la machine de Turing.
3) La pensée n'est pas algorithmique.
Un superordinateur tel que le Titan du labo d'Oak Ridge compte 560640 processeurs interconnectés. Il n'est pas intelligent.
DE plus, un ordinateur traite de l'information, alors qu'un neurone se contente de la transmettre.
Frère Barnabé- Vénérable
- Messages : 29046
Date d'inscription : 11/05/2017
Age : 61
Localisation : saint Etienne
Re: « Où est passé l’homme ? »
Esculape a écrit: Doté d'une IA, l'ordinateur pense-t-il ? J'insiste sur le fait démontré que la pensée n'est pas algorithmique. Tout est là !
Qu'est-ce qui vous permet d'affirmer que la pensée n'est pas algorithmique, même si c'est un algorithme d'un grand niveau de complexité ? Prouvez-le !
Je voudrais aussi recadrer certaines choses par rapport à vos affirmations sur la Machine de Turing. Les micro-ordinateurs dont nous nous servons tous ici sont des machines un poil plus compliqués que la machine de Turing.
Un micro-ordinateur comprend :
- Un processeur doté d'un jeu d'instructions simple, permettant notamment de faire des calculs
- Une mémoire vive ou sont stockées les données à usage immédiat
- Une mémoire morte ou disque dur
- Une carte mère ou sont connectés les différents élements et ou on peu connecter des périphériques via des connecteurs
- Carte son , Carte vidéo
- Une carte réseau
Si les mémoires des tout premiers ordinateurs fonctionnaient avec des systèmes de ruban comme la machine de Turing, les disques durs des micro-ordinateurs d'aujourd'hui fonctionnent avec des cylindres ce qui permet à la tête de lecture d'évoluer en 2 dimensions et non 1 comme la machine de Turing.
Quand à l'intelligence, vous ne l'avez toujours pas défini. Et si on considère l'intelligence comme la capacité d'apprendre, une IA peut de toute évidence apprendre.
Monsieur Trololo- Vénérable
- Messages : 15509
Date d'inscription : 03/08/2021
Re: « Où est passé l’homme ? »
Pour ce qui concerne le fait que la pensée n'est pas algorithmique, demandez la démonstration à Roger Penrose. Savez vous qui c'est ?Monsieur Trololo a écrit:Esculape a écrit: Doté d'une IA, l'ordinateur pense-t-il ? J'insiste sur le fait démontré que la pensée n'est pas algorithmique. Tout est là !
Qu'est-ce qui vous permet d'affirmer que la pensée n'est pas algorithmique, même si c'est un algorithme d'un grand niveau de complexité ? Prouvez-le !
Je voudrais aussi recadrer certaines choses par rapport à vos affirmations sur la Machine de Turing. Les micro-ordinateurs dont nous nous servons tous ici sont des machines un poil plus compliqués que la machine de Turing.
Un micro-ordinateur comprend :
- Un processeur doté d'un jeu d'instructions simple, permettant notamment de faire des calculs
- Une mémoire vive ou sont stockées les données à usage immédiat
- Une mémoire morte ou disque dur
- Une carte mère ou sont connectés les différents élements et ou on peu connecter des périphériques via des connecteurs
- Carte son , Carte vidéo
- Une carte réseau
Si les mémoires des tout premiers ordinateurs fonctionnaient avec des systèmes de ruban comme la machine de Turing, les disques durs des micro-ordinateurs d'aujourd'hui fonctionnent avec des cylindres ce qui permet à la tête de lecture d'évoluer en 2 dimensions et non 1 comme la machine de Turing.
Quand à l'intelligence, vous ne l'avez toujours pas défini. Et si on considère l'intelligence comme la capacité d'apprendre, une IA peut de toute évidence apprendre.
Que les ordinateurs soient plus puissants, avec une programmation plus simple et une vitesse d'exécution des instructions n'a rien à voir avec leur logique ! J'avais pourtant bien insisté sur le l'expression LOGIQUEMENT équivalentes !
Que, grâce aux ordinateurs on ait accès quasi-instantanément à l'information n'est évidemment pas une marque d'intelligence de ces machines. Toujours le même avantage : La rapidité qui n'a rien à voir avec l'intelligence.
Enfin, je crois, mais lisez vous mes textes ?, que j'ai déjà souligné le fait qu'il n'existe pas de définition FORMELLE de l'intelligence, connaissance indispensable si on veut en doter les ordinateurs.
S'il vous plaît, poursuivons cet échange dans la sérénité en admettant que chacun peut avoir des idées différentes d'autant plus que pour ce qui me concerne je ne fais que répéter des arguments de logiciens de bonnes réputations, mais des idées que je soutiens car leurs arguments reposent sur des bases solides.
Bien sûr que j'ignore ce qu'est l'intelligence, mais il me semble évident que l'intelligence requiert le fait de pouvoir penser.
Les ordinateurs peuvent-ils penser, comprendre ce qu'ils font ? Evidemment non, même lorsqu'ils calculent la plus modeste des additions !
P.S. Je vous conseille de lire de Roger Penrose, prix Nobel de physique, ancien directeur de thèse de Stephen Hawking, les deux ouvrages suivants :
1- L'esprit, l'ordinateur et les lois de la physique.
2- Les ombres de l'esprit.
Et je répète la thèse d'Alonzo Church, célèbre logicien américain, passage obligé par toute personne étudiant la logique mathématique.:
Thèse de Church :
La théorie des machines de Turing, la théorie des fonctions récursives, la théorie des algorithmes sont logiquement équivalentes.
Je crois très éloquent ce texte dès lors qu'on l'a compris.
Depuis, aucun logicien ne l'a jamais pris en défaut.
Renseignez vous également sur "La chambre chinoise" de Searl.
Enfin, il n'est pas complètement exclu qu'une découverte prouve que les arguments contre l'IA forte soient faux.
Eh bien, je le reconnaîtrai tranquillement ainsi que le font les scientifiques quand on comment une erreur.
Dernière édition par Esculape le Ven 10 Sep 2021 - 17:14, édité 2 fois
Esculape- Chef
- Messages : 1885
Date d'inscription : 31/07/2021
Age : 97
Localisation : Ile de France
Re: « Où est passé l’homme ? »
[quote="Esculape"][quote="Monsieur Trololo"]
est il possible de lui demander d'analyser nos pensés , par des algorithmes (avec le big data ,IA)et agir par des machines mobile, et peut être devenir des armes contre nous (l'humanité) de façon autonome???Esculape a écrit:
Les ordinateurs peuvent-ils penser, comprendre ce qu'ils font ? Evidemment non, même lorsqu'ils calculent la plus modeste des additions !
.
Frère Barnabé- Vénérable
- Messages : 29046
Date d'inscription : 11/05/2017
Age : 61
Localisation : saint Etienne
Page 3 sur 6 • 1, 2, 3, 4, 5, 6
Sujets similaires
» E ZEMMOUR CANDIDAT ?
» L'Homme est-il un Loup pour l'Homme?
» PASSE VACCINAL C'EST PASSE!
» Un homme de foi et un homme sans foi!
» Le nazillon et le nazi Hippie.
» L'Homme est-il un Loup pour l'Homme?
» PASSE VACCINAL C'EST PASSE!
» Un homme de foi et un homme sans foi!
» Le nazillon et le nazi Hippie.
Page 3 sur 6
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum