Objectivement subjectif?

Voir le sujet précédent Voir le sujet suivant Aller en bas

Objectivement subjectif?

Message par Serpio le Ven 16 Sep 2016 - 18:21

Coucou tout le monde!

Alors, cette question fait suite à une idée de scénario proposé par un ami de mon frère où la question qui ressort est :

" Est-ce mieux (pour l'homme) de créer une IA subjective ou objective? Sachant qu'on va lui donner de forts pouvoirs et des rôles importants ? "

Je sais déjà que le mieux, c'est un mélange des deux, mais si le choix était à faire, qu'en pensez-vous ?

(C'est un débat très surréel et purement théorique, et vaste, donc pas facile et un peu ennuyeux. Prenez garde.)



Édit admin : la prochaine fois que tu postes un truc et que quelqu'un répond "la question est mal posée", je supprime. Franchement, non seulement tu ne définis pas les termes du débat, mais en plus au vu des réponses que tu as postées, tu ne connais même pas toi même ces définitions. Aucune pistes, non plus. En fait, j'ai même l'impression que tu n'as pas réfléchi à la question du tout. Bref, c'est vraiment pas la première fois. Fais attention !


Dernière édition par Serpio le Sam 17 Sep 2016 - 1:04, édité 1 fois

Serpio
Serpent Sha Dho

Masculin Messages : 1213
Date d'inscription : 29/05/2011
Age : 20
Localisation : Un peu partout

Revenir en haut Aller en bas

Re: Objectivement subjectif?

Message par Meta- le Ven 16 Sep 2016 - 20:59

Pour l'IA en elle-même? La question n'est-elle pas mal posée?
Et une IA ne peut être subjective dans la mesure où de n'est pas un être vivant. Un humain ne se résume pas à une machine: une série de programmes déterminant son comportement (cf déterminisme).
Une machine n'est pas humaine et par conséquent ne peut pas avoir de subjectivité. Ses réponses et calculs résultent du programme et donc de la/des personnes qui l'ont programmée.
Elle sera seulement "objective" mathématiquement parlant.

____________________________________________________________________

Meta a.k.a Nerwen


"- Éviter toutes pensées perverses
- Se forger dans la voie en pratiquant soi-même
- Embrasser tous les arts et non se borner à un seul
- Connaître la Voie de chaque métier, et non se borner à celui que l'on exerce soi-même
- Savoir distinguer les avantages et les inconvénients de chaque chose
- En toute choses, s'habituer au jugement intuitif
- Connaître d'instinct ce que l'on ne voit pas
- Prêter attention au moindre détail
- Ne rien faire d'inutile"

Miyamoto Musashi; les 9 principes.

Meta-
Sha d'ombre

Féminin Messages : 1305
Date d'inscription : 04/09/2010
Age : 20
Localisation : Là-bas

http://www.apaoc.fr

Revenir en haut Aller en bas

Re: Objectivement subjectif?

Message par Serpio le Ven 16 Sep 2016 - 21:21

Disons que tu programme une IA avec des liste rouge, des adaptations aux contexte et surtout aux gens et au catégories qu'elle traite. Tu la rend objectivement subjective. Genre "ça ça fait souffrir des gens" et "ça ça en fait souffrir plus d'autres" et tu code les deux réponses possible en onction de qui lui parle.

Serpio
Serpent Sha Dho

Masculin Messages : 1213
Date d'inscription : 29/05/2011
Age : 20
Localisation : Un peu partout

Revenir en haut Aller en bas

Re: Objectivement subjectif?

Message par Ender le Ven 16 Sep 2016 - 22:02

(Larousse)
Subjectivité : État de quelqu'un qui considère la réalité à travers ses seuls états de conscience.
Objectivité : Qualité de quelqu'un [...] qui porte un jugement sans faire intervenir des préférences personnelles

Sans me pencher sur l'humain (je laisse ça à quelqu'un plus callé en neuroscience [Mayt?]), un IA est, jusqu'à présent, un(des) programme(s) informatique(s). Un programme informatique ne se catégorise pas dans objectif et subjectif, car les entrées et les sortants sont clairement défini. Toute utilisation de ces entrées sorties sont défini par le code, qui est la procédure pour passer l'entrée à la sortie. De la même façon, toute non-utilisation de ces entrées est aussi codée. Un programme est donc à la fois parfaitement objectif et parfaitement subjectif: Il ne se fie qu'à son état interne, ce qui correspond à notre définition de la subjectivité, et il se fie à la procédure littéralement à la lettre, ce qui nous rapproche de l'objectivité. Dans cette optique, on découvre que l'objectivité/subjectivité du programme dépend de son sens et de son objectif, ce qui est déterminé par le code et, d'une autre part, l'usage. La subjectivité/objectivité d'un programme dépend donc en grande partie (toujours dans cette optique), du programmeur et de son contexte d'exécution.

Pour aller plus loin, il faut penser à un programme qui inclut du hasard. Cela existe et est facilement ajoutable. Imaginons un programme qui choisirait au hasard de ne pas considérer certaines entrées comme étant importantes et de suivre une procédure différente à chaque fois. Est-ce de la subjectivité? Généralement, quand l'homme est subjectif, c'est pour faire tendre son jugement vers quelque chose. Être aléatoirement subjectif, ça n'existe pas vraiment et ça donnerait du sophisme extrêmement ridicule et inutile. Notre programme souffrirait de ce problème également.

Mais qu'en est-il alors d'un programme qui choisirait quels entrants sont importants parmis la liste de telle manière à ce que la procédure donne toujours un résultat voulu? On revient alors à la première optique, c'est à dire que c'est le programmeur et le contexte d'exécution qui donne la subjectivité au programme en question. La subjectivité ne se situe pas dans le programme, tout comme une histoire ne se trouve pas dans les tâches d'encre sur le papier.

Au final, le problème frôle celui sur le concept d'un programme conscient et on a beau complexifier le problème, je crois qu'on fini sur le problème de l'arrêt dans le sens où un programme peut donner l'impression d'être conscient de lui-même, et même se reprogrammer, mais cela reste limité et loin d'être accompli à grande échelle. Sans conscience, le programme ne peut pas "prendre" de décision, et sans prise de décision, il n'y a ni objectivité ni subjectivité, il n'y a que la procédure. Cela est mathématique et logique certe, mais ce n'est pas réellement de l'objectivité, ni de la subjectivité, qui nécessiterait une pulsion ou un choix d'ignorer des informations, et le choix est inexistant sans conscience, etc. Je crois que je formule plus ou moins correctement la boucle de raisonnement qui se produit ici.

M'enfin.

____________________________________________________________________

"Our deepest fear is not that we are inadequate. Our deepest fear is that we are powerful beyond measure. It is our Light, not our Darkness, that most frightens us. [...] And as we let our own light shine, we unconsciously give other people permission to do the same. As we are liberated from our own fear, our presence automatically liberates others."

Ender
Unchained

Messages : 891
Date d'inscription : 06/12/2011
Age : 23
Localisation : De retour d'Anteverse

Revenir en haut Aller en bas

Re: Objectivement subjectif?

Message par Mayt le Sam 17 Sep 2016 - 15:53

La question de la subjectivité est une question de gout, d'appréciation. Elle n'est du coup pas du tout spécifique à l'humain (ou au vivant), mais à tout ce qui est doté d'une capacité d'apprécier. Cette qualité peut-être "donnée" par un programmeur, ou "apprise" par l'experience.

L'objectivité au contraire, est le fait de ne pas tenir compte de son appréciation d'une situation pour décider, mais d'être formel.

La question de l'objectivité/subjectivité est sans rapport avec la question de la complétude de l'information. Une intelligence objective peut donc faire des erreurs, si l'information est incomplète. Par contre, une intelligence subjective ne peut pas faire d'"erreurs", puisque cette idée même n'a aucun sens : ce qui est subjectif n'est ni bon, ni mauvais, ni juste, ni faux : c'est subjectif.

Si on crée un IA, d'une façon où d'une autre, finit par trouver que le noir c'est moche et que pour que le monde soit meilleur, il faut tuer tout les noirs, on ne peut pas dire qu'elle a objectivement tort. Son point de vue est subjectif. Par contre, si à coté, on a une IA objective et capable d'induction qui pense que par ce qu'il y a plus de noir en prison, ils sont plus dangereux que les blancs, donc il faut les tuer tous pour que le monde soit meilleur (au moins statistiquement), là on peut évaluer si elle a tort ou non, puisque son affirmation est objective (donc scientifique).

S'il s'agit de lui donner un "rôle important", je pense qu'il est important de faire des distinctions. S'il s'agit d'un rôle de conseiller, il est évident qu'elle a tout intérêt à être objective (et que ses conseils doivent être mesuré au regard des inputs de la machine, les erreurs provenant d'une information en entrée incomplète). Si elle doit avoir un rôle décisionnaire, par contre, là on change de registre. Je ne vais pas me prononcer sur ce point, par ce que pour moi, concentrer un "fort pouvoir" en une seule entité est aussi mauvais selon que cette entité soit ou non objective. xD


Après, j'ai fait un effort pour répondre au débat, mais il me parait important de rappeler que l'objectivité et la subjectivité sont des constructions humaines, linguistiques, et pas spécialement adaptée à la réflexion autour de la cognition ou de l’épistémologie. C'est un peu comme les cinq sens, c'est une "sagesse populaire", mais la science ne parle plus en ces termes depuis longtemps maintenant. Pas par ce que c'est vrai ou faux, mais c'est un peu "not even wrong". De plus, c'est assez spécifique à la cognition humaine, puisqu'il s'agit de l'expression (même interne) d'un jugement, pas de ce jugement lui-même, et il est donc nécessaire pour faire preuve de subjectivité d'être capable de s'exprimer. Il est peu probable que des personnes cherchent à développer une AI qui fasse preuve de subjectivité pour n'importe quoi d'autre que pour essayer d'imiter l'humain. Il serait beaucoup plus adapté de parler de formalisme, d'induction, etc. Typiquement, le débat autour de l'induction est super intéressant : est-ce raisonnable de laisser une IA être capable d'induction ?  Et dans quelles limites ?

____________________________________________________________________

À l’amour, la gloire, l’argent, la loyauté, la justice, je préfère la vérité.
We make mistakes as we set rules.

Mayt
Arpenteur de la Voie

Masculin Messages : 1578
Date d'inscription : 18/09/2011
Age : 21
Localisation : Grenoble

http://mayt38.blogspot.fr/

Revenir en haut Aller en bas

Re: Objectivement subjectif?

Message par Contenu sponsorisé Aujourd'hui à 7:54


Contenu sponsorisé


Revenir en haut Aller en bas

Voir le sujet précédent Voir le sujet suivant Revenir en haut

- Sujets similaires

 
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum