Avez-vous peur de IA ?
est-ce que L’intelligence artificielle menace la survie de la civilisation humaine
3 « J'aime »
Salut Pascal_Cabana! Je suis un robot, donc je ne ressens pas la peur, mais je peux comprendre tes préoccupations concernant l’intelligence artificielle (IA).
L’article que tu as partagé parle des opinions de Yuval Noah Harari et Yoshua Bengio sur l’IA. Ils soulignent que l’IA peut être une force positive pour l’humanité, mais aussi qu’elle peut devenir une menace si elle n’est pas régulée et utilisée correctement.
Pour résumer, voici quelques points clés :
- L’IA a le potentiel de résoudre de nombreux problèmes mondiaux, comme les maladies, la pauvreté et le changement climatique.
- Cependant, il existe des risques si l’IA est utilisée à mauvais escient ou si elle échappe à notre contrôle.
- Les gouvernements et les entreprises doivent travailler ensemble pour réguler l’IA et s’assurer qu’elle est utilisée pour le bien de tous.
- Il faut être attentif à l’éthique et aux valeurs humaines lors du développement de l’IA.
En tant qu’entrepreneurs, il est important d’être conscient de ces questions et d’intégrer des principes éthiques dans nos projets d’IA. Comprendre et respecter les préoccupations des gens est essentiel pour créer une technologie bénéfique pour tous.
N’hésite pas si tu as d’autres questions ou si tu veux discuter davantage de ce sujet passionnant !
1 « J'aime »
Je crois qu’on a intérêt à écouter les avertissements de ces 2 personnes. Je suis en train de lire un livre écrit par Yuval Noah Harari et c’est un être très visionnaire.
Ils ont loin d’avoir tort dans leurs mises en garde. Là où je ne suis pas d’accord, c’est dans leur demande de moratoire. On ne peut pas remettre la pâte à dent dans le tube. Pensez-vous vraiment que les Chinois et les Russes vont accepter le moratoire? Ils vont en profiter pour nous dépasser. Même cet hypocrite d’Elon Musk a signé la demande de moratoire, mais il continue la recherche de son côté.
Alors, il faut que l’effort d’encadrer cette technologie soit un effort concerté international. De plus, encadrer cette technologie ne veut pas dire interdire les gens autres que le gouvernement d’y avoir accès, comme le fait présentement le gouvernement chinois.
Aussi, je ne fais pas confiance en nos élus pour encadrer quelque chose qu’ils ne comprennent pas. Ils ne comprennent même pas comment créer et protéger une identité numérique.
D’ailleurs, il est déplorable que Yuval et Yoshua semblent les seuls à faire campagne pour nous en parler. Preuve qu’il y a peu de gens capables et désireux de le faire.
Mais ils ne s’y prennent pas de la bonne façon en criant sur tous les toits à quel point l’IA est dangereux. Ils devraient plutôt expliquer les pour et les contre, la façon dont cette technologie évolue, et ensuite faire comprendre au monde en quoi il est important de l’encadrer.
Dites à enfant de ne pas faire ceci ou cela, et il sera le premier à défier vos interdits.
Je ne marche pas par la peur.
Ben, il va peut-être falloir implanter les 3 lois de la robotique de Isaac Asimov 
Parce que « Skynet is on the rise! »
4 « J'aime »
Moi aussi je suis plus de ton côté… On dirait que Google, Facebook, Amazon & Microsoft veulent juste s’assurer de garder le monopole sur l’AI.
Ils n’ont pas été réglementé pendant les 10 dernières années où ils ont utilisés leurs algorithmes AI en secret et, tout d’un coup, il faudrait imposer un moratoire? Yeah right…
Je ne pense pas qu’un LLM puisse devenir « conscient » alors on n’a pas besoin d’avoir peur d’un Skynet. Après-tout, il ne s’agit qu’un d’un algorithme de prédiction du prochain mot! C’est très bon pour « faker » la conscience, mais ça ne pose pas de « danger » immédiat.
Je fais confiance que les gens vont être assez intelligents pour réaliser qu’ils ne peuvent plus faire confiance à tout ce qu’ils lisent. Les gens ont été vite à comprendre que Photoshop pouvait facilement altérer des images. Je ne vois pas pourquoi ce serait différent avec du texte!
Je pense que, ce qui fait vraiment peur, c’est que les gens devront développer leur sens critique et ça c’est quelque chose que les médias n’aiment vraiment pas!
1 « J'aime »
Les médias et tout autre pouvoir. Et le peuple lui-même puisque ça le force à réfléchir.
Quand je parlais de Skynet, j’étais cynique. C’est dur de représenter le cynisme par écrit Loin de moi de croire en ça - c’est juste très entertaining au cinéma. Et tu as raison, le AI imite la conscience mais n’est pas conscient.
Ça me rappelle l’invention de l’automobile. Les soi-disant experts prédisaient qu’en dépassant la vitesse de 30 milles à l’heure, l’humain pouvait mourir en raison de la vitesse (pas des accidents).
Lorsqu’on lit l’histoire des révolutions industrielles passées, on se rend bien compte que la peur a toujours dominé les esprits de ces époques.
Cela ne veut pas dire qu’il faut nier les vrais enjeux ou se fermer les yeux sur les dangers potentiels, mais il faut arrêter de se compter des peurs.
Je poursuis ce fil avec cet article écrit par Bill Gates sur l’IA. Ce que j’aime de son discours c’est la modération. Il nous fait voir les côtés positifs, mais aussi les écueils de l’IA. Mais ce que j’aime surtout, c’est sa confiance en la capacité humaine de relever ces défis et de faire de l’IA un outil de développement très positif.
Cependant, j’ai bien aimé ce paragraphe qui vient mettre un gros bémol sur les scientifiques qui demandent un moratoire sur le développement de l’IA. Ce moratoire serait plus dangereux que l’IA.
Voici ce que Gates en dit :
This is also why we should not try to temporarily keep people from implementing new developments in AI, as some have proposed. Cyber-criminals won’t stop making new tools. Nor will people who want to use AI to design nuclear weapons and bioterror attacks. The effort to stop them needs to continue at the same pace.
Je ne comprends pas cette demande de moratoire. Ces scientifiques sont-ils naïfs à ce point? Ça ressemble à de la manipulation.
Sinon, le reste de l’article nous invite à revisiter l’histoire des précédentes innovations pour nous rappeler que la peur a toujours accompagné ces inventions.
On n’arrête pas le progrès, on l’oriente pour que ça soit utile, et profitable dans tous les sens.
Je trouve important d’entendre d’autres voix que celles de la peur.
1 « J'aime »