Suporte apresentado para pesquisadores para aumentar as defesas contra riscos sociais, incluindo fanfarras profundas e ataques cibernéticos Primeira fase do esquema do Instituto de Segurança da IA para fornecer aos pesquisadores até £ 200,000 em lançamentos de subvenções Programa dedicado à ‘segurança de IA sistémica' para aumentar a confiança pública à medida que a tecnologia é implementada em toda a economia.
Os pesquisadores focados em aumentar a resiliência da sociedade contra riscos de IA, como contrafazeres profundos, desinformação e ciberataques, podem agora acessar subsídios governamentais para impulsionar seu trabalho que ajudará a garantir a segurança da IA, enquanto o Reino Unido aproveita seu potencial para desencadear crescimento econômico e melhorias nos serviços públicos. O esquema lançado hoje (terça-feira 15 o outubro), em parceria com o Engenharia e Ciências Físicas do Conselho de Pesquisa ( EPSRC ) e Innovate Reino Unido, parte da Reino Unido Research and Innovation ( UKRI ), está focado em como a sociedade pode ser protegida dos riscos potenciais da IA. Ele também suportará pesquisas para enfrentar a ameaça de sistemas de IA falhando inesperadamente, por exemplo no setor financeiro.
A luta contra esses riscos irá aumentar a confiança do público na tecnologia que possui enorme potencial para provocar crescimento a longo prazo, mantendo o Reino Unido no centro da pesquisa sobre o desenvolvimento de IA responsável e confiável. Garantir a confiança do público na IA é central para os planos do governo para aproveitar seu potencial, pois o Reino Unido aproveita a tecnologia para aumentar a produtividade e fornecer serviços públicos que estejam aptos para o futuro. Para garantir que o Reino Unido possa continuar a aproveitar as enormes oportunidades da IA, o governo também se comprometeu a introduzir legislação altamente direcionada para o punhado de empresas que desenvolvem os modelos de IA mais poderosos, garantindo uma abordagem proporcionada à regulação em vez de novas regras gerais sobre seu uso.
A segurança da IA sistémica está focada nos sistemas e infraestruturas onde a IA está sendo implementada em diferentes setores. O programa lançado hoje espera desencadear uma ampla gama de pesquisas para identificar os riscos críticos da adoção de IA de fronteira em setores críticos como a saúde e serviços energéticos, identificando soluções potenciais que podem então ser transformadas em ferramentas de longo prazo que abordam potenciais riscos de IA nestas áreas. O Secretário de Estado para Ciência, Inovação e Tecnologia, Peter Kyle disse. Meu foco é acelerar a adoção da IA em todo o país para que possamos iniciar o crescimento e melhorar os serviços públicos. No entanto, o principal plano é aumentar a confiança do público nas inovações que já estão proporcionando a verdadeira mudança.
É aí que entra este programa de subvenções. Ao aproveitar uma ampla gama de conhecimentos da indústria para a academia, estamos apoiando a pesquisa que irá garantir que, ao lançarmos sistemas de IA em toda a nossa economia, eles possam ser seguros e confiáveis no ponto de entrega. Iniciando a abertura formal do seu Programa de Subvenções de Segurança Sistémica, o Instituto de Segurança da IA do Reino Unido está procurando voltar atrás 20 projetos com financiamento até £ 200,000 cada um durante a primeira fase, vale £ 4 milhões. No total, o fundo vale £ 8.5 milhões, anunciados pela primeira vez na Cúpula de Seul, com o dinheiro adicional para ficar disponível em tempo útil, conforme novas fases forem lançadas.
Os candidatos serão avaliados sobre os potenciais problemas que a sua pesquisa poderia resolver e quais os riscos que ela aborda, tendo até 26 a de Novembro para submeter suas propostas. A presidente do Instituto de Segurança Ian Hogarth, disse. Este programa de subvenções permite- nos avançar no entendimento mais amplo sobre o tema emergente da segurança sistêmica da IA. Ele se concentrará em identificar e mitigar os riscos associados à implantação da IA em setores específicos que poderiam impactar a sociedade, quer isso seja em áreas como os deepfakes ou o potencial de falhas inesperadas dos sistemas de IA.
Ao reunir pesquisadores de uma ampla gama de disciplinas e fundos para este processo de contribuir para uma base mais ampla de pesquisas sobre IA, nós estamos construindo evidências empíricas de onde os modelos de IA poderiam representar riscos para que possamos desenvolver uma abordagem arredondada à segurança da IA para o bem público global. O Instituto de Segurança da IA trabalha na avaliação da segurança dos modelos de IA é apenas uma parte da sua missão, e o programa de subvenções está definido para entregar novas pesquisas que, em última análise, ajudarão as sociedades de todo o mundo a gerenciar melhor as mudanças que a tecnologia poderia trazer.
As organizações baseadas no Reino Unido são elegíveis para solicitar financiamento de subvenções através de um site dedicado, e a fase de abertura do programa visará aprofundar as compreensãos sobre quais desafios a IA provavelmente irá representar para a sociedade no futuro próximo. Os projetos também podem incluir parceiros internacionais, incentivando a colaboração entre desenvolvedores e a comunidade de pesquisas IA, ao mesmo tempo que reforça a abordagem global compartilhada para a implantação e o desenvolvimento seguros da tecnologia. Os candidatos bem sucedidos serão confirmados no final de janeiro 2025, com a primeira rodada de subvenções então definida para ser premiada em fevereiro.
Visite o site do Instituto de Segurança da AI para. Orientações sobre como solicitar o esquema de subvenção Perguntas Frequentes ( FAQs ) sobre o esquema de subvenção e o processo de aplicação.
Perguntas de mídia do DSIT. E-mail press@dsit.gov.Reino Unido De segunda a sexta-feira, 8: 30 eu a 6 pm 020 7215 3000.
