Petite monté d'adrénaline en escalade et en voiture

@Maitre_Cube
je me demande si les constructeurs se posent ce genre de question, compte tenu de la faible proba de ce genre de choix et des fortes incertitudes (par exemple comment déterminer avec une bonne fiabilité la chance de survie du passager arrière gauche lors d'une collision avec un angle de 37° contre un objet dont on ignore le poids et la capacité de déformation).

Citation :
L'algo de la Tesla n'est certainement pas assez développé pour anticiper les conséquences de son action sur la suite des évènements pour la BMW.
Elle ne s'est clairement pas dit qu'elle préférait assurer la survie de ses passagers plutôt que de tenter de sauver tout le monde.
Son algo se contente juste de détecter les risques de collision sur elle-même et de prendre les mesures adaptées pour éviter ces collisions.
Techniquement parlant, c'est ce qu'il y a de plus efficace à mettre en place et de toute façon, on n'a pas les moyens de faire mieux avant longtemps.

2/ va falloir vraiment installé des sièges éjectable plus parachute sut les Tesla, ça arrive pas mal de fois là.

Citation :
C'est pas la tesla qui s'envole vers les cieux. La tesla n'a rien justement parcequ'elle a accéléré pour éviter la collision.

contrairement a ce qu'on croit, cette question de la moralité de la prise de décision se pose en réalité assez peu, parce qu'elle repose sur un équilibre statistique parfait. C'est une question philosophique très rigolote mais elle n'a globalement aucune application pratique dans le cadre de la conduite autonome. Je m'explique (en mode, "chauve souris enragée"):

Dans les faits, savoir si pour éviter un carambolage, la voiture doit tourner a droite et tuer une vielle ou tourner a gauche et tuer un enfant c'est presque un non-problème:
Déjà parce que oui, c'est un cas de figure dont la probabilité est ridiculement faible, même si elle n'est effectivement pas nulle. Mais allez, posons un chiffre arbitraire dessus, mettons 0.1%

Sur ce 0.1% de cas, il faut effectivement prendre une décision. Et la dessus, il y a un autre facteur a ne pas négliger: C'est une manœuvre d'évitement d'urgence (donc incertaine), donc la machine prend naturellement celle qui a le taux de réussite le plus élevé.
MAIS ADMETTONS, on tombe sur un cas étonnant ou les deux manœuvres d'évitement ont rigoureusement la même probabilité de réussite. On arrive donc dans du 0.001% de cas.

Dans le processus de prise de décision, maintenant il y a aussi le facteur de "quel est l'état de la simulation après la manœuvre?" qu'on peut considérer. Ta voiture, une fois arrêtée, elle est sur une zone précise de la route. Et ces zones, elles sont faciles a découper par safety rate: la bande d'arrêt d'urgence est un meilleur spot que la file de gauche, ou le terre-plein central. La dessus, tu ajoutes la facilite d'évacuation de la zone. Bref, t'as un milliard de donnees potentielles a prendre en compte.

mais admettons. On tombe sur un cas quasi divin ou la multiplication de toutes ces probabilités est parfaitement égale d'un cote ou de l'autre. Meme en ajoutant l'évaluation des dégâts matériels, on a LA AUSSI une probabilité complètement égale. pfiou, sale journée...
La on commence a tomber dans un trou statistique de 0.00000001%
Eh ben a titre personnel, dans ce cas la, je suis prêt a vivre avec l'idée que la voiture a pioche une solution au hasard entre les deux. La faute a pas de chance décide déjà du sort de beaucoup d'entre nous, et je me vois mal m'insurger contre une machine qui a pris une décision que je n'aurais moi même pas été en mesure de trancher

Citation :




Ahhhhhhh okkkkkkkkk, autant pour moi.


Merci camarade.

Citation :
tu connais du monde dans le secteur?

--

Il y a aussi un autre paramètre (j'imagine, je ne me suis jamais sérieusement penché sur le sujet) : une réaction d'IA peut semer la confusion chez les humains alentours, qui eux peuvent être tentés d'anticiper des réactions humaines.
Il peut donc y avoir un intérêt de programmer l'IA à avoir des réactions "humaines" (biensûr pas dans toutes les situations, comme par exemple piler comme un bourrin et donc perdre en efficacité de freinage).

@Moustache j'ai des amis qui bossaient en R&D sur ces questions (bien longtemps avant l'arrivée des Tesla ) et il m'arrive occasionnellement d'échanger avec des ingés qui font de la conduite autonome (Uber et Nvidia en l'occurrence). Je n'ai aucune expérience perso dans le domaine en dehors de petits prototypes dans des moteurs de jeu

mais oui t'as raison, la previsibilite de tes actions est super importante: Dans le contexte actuel, les voitures font quelque chose qui peut s'apparenter a des algorithme de flocking (comme les oiseaux qui volent en groupe): chaque voiture s'occupe de son propre cul puisqu'elle n'a aucun controle sur ce que font les autres. Elle assure un comportement cohérent et limite la casse en cas d'imprévu. L'uniformité des réactions fait le reste pour securiser l'ensemble

pour aller plus loin que ca, il faudrait un système ultra connecte ou les voitures ne sont plus des agents autonomes mais sont des unités d'un système distribue qui lui, maitrise la situation de toutes les voitures sur la route.
Pour dire ca mieux, il faudrait que les voitures puissent communiquer pour se donner les infos sur leurs intentions et se coordonner intelligemment.
Inutile de dire que c'est pas pour tout de suite

j'ajoute un mot concernant l'idee de produire les reactions les plus humains possibles: C'est exactement dans cette direction qu'ils avancent en ce moment puisqu'ils collectent des donnees issues de la conduite des utilisateurs et ils alimentent les reseaux de neurones avec. Le probleme aujourd'hui, c'est que d'apres leurs estimations, pour avoir un systeme parfait il faudrait une quantite d'informations qui surpasse largement ce qu'on est capable de collecter avec le parc actuel. Donc ils en sont a creer de toute piece des simulations dans des moteurs de jeu pour entrainer l'IA avec des donnees artificielles. La il y a 2 ecoles: ceux qui pensent qu'ils faut alimenter avec de la conduite de tous les jours, et ceux qui pensent plutot que quitte a generer des scenarios de toute piece, autant se focaliser sur les cas les plus rares qu'on ne retrouve que tres peu dans les donnees fournies par les voitures reeles

@nobrain

Comment ça au hasard entre les deux ?

Il faut bien sûr qu'elle soit programmée pour buter la vieille au lieu du gosse. Ca me semble tout à fait logique (sans ironie). C'est pourtant le paramètre le plus simple de toute ta chaine d'événements ^^

@Dimebagou oui mais la vieille elle cuisine comme une reine, et elle a tue plus d'une soixantaine de nazis pendant la guerre.
L'enfant de son cote, il fait des tiktok, il est admin sur un discord neonazi et il a achete hogwarts legacy

toujours categorique?

La machine ne sait pas ça (encore). Avec les paramètres actuels à sa disposition et si c'est l'ultime choix à faire, elle doit absolument tuer la vieille.

(je viens d'acheter Hogwarts Legacy... merde... )

Je suis incapable de mettre une valeur sur une vie humaine.
En formation, lors d'un exercice où il fallait attribuer un score à différents profiles d'individus pour décider qui sauver (bête situation des canots de sauvetages lors d'un naufrage); j'étais physiquement bloqué, je n'ai pas fait l'exercice et j'étais choqué de voir mes camarades ajouter X points pour celui qui avait tel diplôme, retirer Y point pour celle qui avait commis un vol par le passé, etc.
Me retrouver face à une telle situation irl serait littéralement un enfer.

Bon du coup j'ai regardé les règles de priorisation des patients par les médecins, et heureusement ça ne semble pas fonctionner comme ça. Cf la prise de position du conseil national de l'ordre des médecins . (Décisions médicales dans un contexte de crise sanitaire et d'exception)

Citation :

--

@nobrain un système de cette sorte avait été envisagé il y a quelques années, tu dois connaître : équiper les voitures de capteurs qui permettent de régler la vitesse d'une file de voiture sur l'autoroute (suppression de l'effet accordéon et réduction des accidents). Je ne sais pas où ça en est mais le principe était bon.