Quels défis techniques complexes nécessitent des solutions immédiates ? Ingénieurs RealLIST sur la cybersécurité et l’IA biaisée – Technical.ly Pittsburgh

En tant qu’industrie, la technologie se développe à un rythme plus rapide que jamais, présentant au monde des innovations de rupture et de nouveaux problèmes à résoudre.

Dans une récente conversation avec Ingénieurs RealLIST 2021 de Technical.ly sur notre communauté Mou, nous avons demandé aux meilleurs technologues de nos cinq marchés quels problèmes techniques épineux ils aimeraient voir résolus dès que possible et pourquoi ce problème n’a pas été résolu jusqu’à présent.

Rejoignez Slack de Technical.ly

Alison Alvarez, cofondateur et PDG de Pittsburgh’s BlastPoint, a déclaré qu’elle aimerait voir davantage de technologues et d’entreprises traiter la cybersécurité « comme l’épidémiologie » en reconnaissant les risques réels et permanents que la menace pose à la société. (Bonjour, Mois de la sensibilisation à la cybersécurité !)

« Le grand public n’a pas la conscience ou les outils pour se protéger, et de nombreuses entreprises non plus », a-t-elle écrit. « Les principes de base doivent être traités comme le lavage des mains, car nous devrions en parler tôt et les souligner comme faisant partie de la vie. Les méthodes devraient être modifiées au fur et à mesure que la technologie évolue – hé, il y a maintenant un désinfectant pour les mains. Nous avons également besoin de principes d’audit moins chers et plus robustes, il n’y a donc aucune excuse pour ne pas les adopter. »

Alison Alvarez. (Photo via LinkedIn)

D’autres personnes dans la conversation ont fait écho aux préoccupations d’Alvarez, notamment Matthieu Ford, l’architecte principal de Baltimore Proténus: « J’avais l’habitude de travailler dans des infrastructures critiques et l’idée que » bien mettre un peu de sécurité à la fin « était et est terrifiante », a-t-il déclaré, convenant avec Alvarez que la réponse devrait être plus approfondie tout au long du processus de développement logiciel.

Jean Lange, un gestionnaire principal de programme technique pour PrêtAccueil, a offert des exceptions aux points de Ford et d’Alvarez, où les problèmes de sécurité pourraient ne pas toujours être aussi pertinents.

« Le problème, c’est qu’il y a des endroits où la sécurité n’a pas d’importance, et d’autres où elle compte jusqu’au bout, et vous devez les traiter comme eux-mêmes et non comme les autres », a-t-elle écrit. Lange a ajouté que des exemples de cela pourraient être des projets personnels pour l’apprentissage, des sites Web d’information pour les entreprises et des organisations ou des projets qui ont un usage personnel mais sont gardés privés des autres. Pourtant, elle a dit que c’est un spectre qui nécessite une analyse des risques dans chaque cas.

Les problèmes de cybersécurité sont devenus de plus en plus répandus avec le début des attaques récentes et le nombre de personnes utilisant désormais la technologie pour une grande partie de la vie quotidienne pendant la pandémie. Même les pannes de réseaux sociaux, comme celle observée par Facebook plus tôt ce mois-ci, signalent le besoin d’une meilleure sécurité que les ingénieurs RealLIST constatent dans leur travail quotidien.

Brandon Coates, un ingénieur senior en sécurité cloud basé à DC chez Yahoo, a partagé un aperçu de ce qu’il rencontre dans son rôle.

« En tant que responsable de la sécurité, j’approuve ce message », a-t-il écrit en réponse à la réponse initiale d’Alvarez. « Cependant, nous devons également examiner notre outillage. J’ai essayé d’amener les membres de la famille à utiliser un gestionnaire de mots de passe et il est parfois plus déroutant de l’utiliser que d’écrire simplement les mots de passe (selon le modèle de menace, l’OMI le plus sûr peut être l’OMI le plus sûr). En d’autres termes, créer une sécurité facile à utiliser et à intégrer sera essentiel à son succès.

Une autre réponse courante à l’invite impliquait la nécessité d’atténuer les biais alors que l’intelligence artificielle et la technologie qui l’entoure continuent de progresser.

Jean Lange. (Photo via LinkedIn)

« Alors que de plus en plus de choses interagissent avec un système AI/ML, cela va continuer à être un ÉNORME obstacle », a écrit Ford. Il a ajouté que même s’il ne sait pas lui-même à quoi ressemble la solution, d’autres personnes avec lesquelles il a parlé dans la communauté technologique ont des préoccupations similaires.

Lange a partagé son approche de ce problème dans le développement de logiciels à un niveau individuel.

« Ma petite contribution personnelle à ce problème est d’essayer d’être le genre d’humain dont je veux que les robots apprennent dans des espaces où les robots apprendront de moi », a-t-elle déclaré. Dans un autre fil, elle et Ford ont échangé des notes sur les systèmes cyborg – une technologie qui fusionne les aspects robotique et humain – comme solution potentielle de terrain d’entente.

Basé à Baltimore Technologies MindStand cofondateur et CTO Eric Solenderoffrait d’autres voies pour lutter contre les préjugés.

« Comme tout le monde le sait, l’IA est une question de données, et si vous avez des données biaisées, vous aurez des modèles biaisés », a-t-il écrit. Pour éviter cela, les équipes à l’origine de la rédaction du code, de la formation des modèles et bien plus doivent être composées de personnes d’horizons très divers qui peuvent offrir des perspectives diverses. « Si vous avez une contribution plus diversifiée dans ce que ces modèles apprennent, théoriquement, la sortie sera également plus diversifiée. Ce n’est en aucun cas une solution globale, mais je pense que cela va dans la bonne direction. »

Pour lire l’intégralité de la conversation, consultez la chaîne #ama dans la communauté Slack de Technical.ly :

Rejoignez Slack de Technical.ly