Lors de sa sortie en 1988, «Seuls les paranoïaques survivent» est devenu un succès retentissant. Dans le livre, l'auteur Andrew Grove partage de nombreuses idées intéressantes qu'il a apprises au cours de son long et fructueux mandat de PDG d'Intel. Parmi eux, l'une des citations les plus remarquables déclare simplement “dans la technologie, tout ce qui peut être fait sera fait”.

Bien que la citation puisse être lue comme un triomphe de la créativité et de la persévérance humaines, elle peut aussi être lue comme un avertissement. Il y a un sentiment inquiétant qui se cache derrière, une approche “n'importe quoi” qui semble prédire la Silicon Valley moderne “construire d'abord, demander pardon plus tard” mentalité.

Malheureusement, ce qui se passe aujourd'hui semble le confirmer. Les entreprises technologiques repoussent les limites de nombreuses façons et grâce à plusieurs percées. Mais ils le font en suivant une voie qui se concentre davantage sur le fait d'être innovant, unique ou le premier sur le marché sans se demander pourquoi ils devraient développer ces solutions technologiques en premier lieu.

En fin de compte, la création de nouvelles technologies a des ramifications sociales. Les technologies affectent la société de nombreuses manières négatives, de L'apport de Facebook à la diffusion de fausses nouvelles et L'abus de Google des données privées des utilisateurs à Le rôle de Reddit dans la diffusion de contenus haineux et L'impact d'Airbnb sur la crise du logement dans le monde entier. Pire encore, les entreprises qui développent ces technologies ne prennent pas leur responsabilité au sérieux.

L'éthique à l'honneur

Les grandes entreprises qui ont récemment reçu beaucoup de chaleur pour leurs actions voulaient montrer au public qu'elles prenaient des mesures pour réparer leurs torts. Cependant, l'auraient-ils fait s'ils n'avaient pas été pris en premier lieu ? Au final, tout cela a dévoilé un comportement réactif qui ne suffit pas à une époque où toute technologie qui peut être développée sera développée.

C'est pourquoi tant d'experts et d'universitaires s'inquiètent de l'éthique dans la technologie, en particulier dans les éditeurs de logiciels. L'impact des outils numériques dans la société d'aujourd'hui est incommensurable, mais les entreprises qui les construisent le reconnaissent rarement. S'ils le faisaient, ils s'arrêteraient une seconde pour se demander : « Rendons-nous nos sociétés meilleures ou pires ?

Cela semble être une question insurmontable. Comment pouvez-vous mesurer si un logiciel particulier rend les sociétés meilleures ou pires ? Que devrions-nous considérer comme meilleur et pire? Tout n'est-il pas subjectif ?

Il est vrai que certains outils ou fonctionnalités des logiciels et des plates-formes sont difficiles à mesurer selon des normes éthiques, mais il y a des problèmes très visibles qui se cachent derrière le rideau « ces questions sont sans réponse ».

Les scandales avec les grandes entreprises cités ci-dessus en sont des exemples. Facebook peut essayer de nous dire qu'il utilise des données privées pour offrir une meilleure expérience et pour mieux nous connecter avec nos amis, mais cela n'a pas à être si sournois sur la façon dont il le fait. C'est le genre de stratégies qui inquiètent tant de gens au sujet de l'éthique – et la raison pour laquelle tant de gens demandent qu'elle soit mise au centre de la scène.

Comment les entreprises technologiques impactent nos sociétés

Comme mentionné ci-dessus, il existe une multitude de façons dont les entreprises technologiques ont un impact sur notre monde.

Dans un monde où 48% des personnes possèdent un assistant numérique, la technologie fait partie du quotidien de chacun.

48% des personnes possèdent un assistant numérique

Il existe 3 niveaux distincts de ceux que les technologies affectent :

  1. Clients et utilisateurs finaux
  2. Employés et actionnaires
  3. Société

Les sociétés de logiciels et de technologie, qui sont des entreprises privées, sont les plus susceptibles de satisfaire les besoins des actionnaires avant tout le monde. L'attitude « tout ce qui peut être fait sera fait » n'est possible que parce que les responsables essaient toujours de créer de nouvelles sources de revenus.

Après les actionnaires, les clients et les utilisateurs finaux sont ce que les entreprises prennent le plus en compte. C'est l'ère de l'expérience client, et les entreprises technologiques et les développeurs de logiciels prêtent attention aux demandes des clients et les rendent suffisamment heureux pour les maintenir en tant que clients ou utilisateurs.

Ce n'est pas nécessairement bon ou mauvais. Amazon, par exemple, est célèbre pour placer ses clients au centre de ses efforts et est largement reconnu pour son expérience client supérieure: Cela a créé des attentes de livraison de deux jours dans le commerce électronique.

Quand les acheteurs reçoivent-ils généralement des colis après avoir commandé en ligne ?

D'un autre côté, des fonctionnalités telles que la lecture automatique de YouTube ou le défilement infini de sites tels que Buzzfeed sont apparemment bonnes pour les utilisateurs, car elles apportent un nouveau contenu au public tout en étant conçues pour garder les gens accrochés.

Les entreprises technologiques semblent cesser de se soucier des actionnaires et des clients. Lorsqu'il s'agit d'employés, de sous-traitants et de la société dans son ensemble, ces entreprises ont tendance à fermer les yeux. Amazon pourrait offrir une superbe expérience client mais, malheureusement, l'entreprise est maintenant tristement célèbre pour à quel point il traite mal ses travailleurs.

Des exemples comme celui-ci abondent dans l'industrie technologique. Même dans les petites entreprises de développement de logiciels, les employés sont poussés à bout dans le but de respecter les délais et de satisfaire les clients.

La façon dont ces entreprises traitent leurs employés est l'un des nombreux effets que ces entreprises ont sur la société. Qu'est-ce que cela signifie lorsque nous permettons aux entreprises de placer le profit au profit de quelques-uns au-dessus du bien public ? Il parle d'une approche naturalisée des effets des entreprises technologiques dans leur ensemble, et pas seulement des produits ou des plates-formes qu'elles commercialisent.

Vers des entreprises technologiques plus éthiques

Les entreprises de technologie et de logiciels affectent tout ce qui nous entoure avec leurs produits et services accoutumants, invasifs et qui négligent la vie privée, il vaut donc la peine de répéter la question qui a déclenché cet article :

Est-il possible d'avoir des entreprises technologiques éthiques ?

C'est possible, mais ce sera difficile. Bien qu'il y ait certains efforts (comme le cours d'éthique offerts par les universités ou l'appel à une sorte de serment d'Hippocrate pour le domaine de la tech), il va falloir aller au-delà de tout ça.

Premièrement, nous devons repenser notre relation avec la technologie et établir un ensemble de règles de base pour son développement. S'il est vrai que, jusqu'à présent, nous avons suivi la voie du « tout ce qui peut être fait sera fait » de Grove, ce n'est plus acceptable. Un nouveau contexte doit être créé, qui intègre l'éthique, en particulier avec des technologies aussi puissantes que les algorithmes basés sur l'apprentissage automatique en cours de conception.

Pour jeter les bases, nous avons besoin de toutes les personnes impliquées, des entreprises elles-mêmes aux utilisateurs, employés, universitaires et gouvernements. Nous devons impliquer tout le monde pour définir la portée et les limites du développement technologique et également pour nommer le responsable de l'application d'un tel accord.

Enfin, il vaut la peine de comprendre que le moment de discuter de toutes ces choses est maintenant. Bien que nous aurions pu le faire il y a longtemps, le scénario moderne est mûr pour ce genre d'argument. Nous devons proposer de nouvelles méthodes de conception de technologies qui améliorent et soutiennent la société humaine car, en fin de compte, nous n'avons pas nécessairement à développer une technologie que nous pourrions éventuellement développer – nous n'avons besoin que de celles qui nous rendent meilleurs.