 |
Redes russas como "Matryoshka" estão agindo como incendiários oportunistas digitais, exagerando intencionalmente a escala do caos para simular um levante civil em escala nacional. |
A imensa promessa econômica e científica coexiste com perturbações potencialmente gigantescas. A ASI (Inteligência Artificial Superinteligente) poderá fortalecer agentes mal-intencionados ao viabilizar ataques cibernéticos devastadores e armas biológicas; inaugurar a automação da tomada de decisões militares, tornando as guerras mais rápidas e menos controláveis; ou possibilitar a criação de armas revolucionárias, como sensores capazes de tornar os oceanos efetivamente transparentes.
A ASI poderá transformar o equilíbrio de poder ao conferir uma vantagem militar enorme aos países que alcançassem a ASI primeiro. Não há garantia de que essas vantagens caberiam a sociedades democráticas. Há alertas de que a ASI poderá provocar um "pesadelo totalitário" ao viabilizar uma vigilância abrangente e automatizar a repressão.
O risco mais grave é que a superinteligência possa escravizar ou exterminar a humanidade. A ASI poderá ajudar a raça humana a se autodestruir, auxiliando niilistas a desencadear novas pandemias ou provocar "guerras-relâmpago" automatizadas que resultariam em uma catástrofe nuclear. Ou talvez uma tecnologia mais inteligente que seus criadores acabe por vê-los como ameaças a serem eliminadas ou recursos a serem explorados. Alguns executivos da área de IA estimam essa "probabilidade de catástrofe" em até 25% ou até mesmo 50%.
Nenhum comentário:
Postar um comentário