Pré-crime está aqui: como a polícia atribuir um facebook “score ameaça”

A história recente da O Washington Post

deu ao público uma visão raro dentro das capacidades de monitoramento de mídia social do departamento de polícia de Fresno, que está testando uma peça controversa de software chamado Cuidado. A peça tem causado uma grande celeuma sobre suposta tendência do software para as violações das liberdades civis.

Mas como é este programa diferente de outros de monitoramento de mídia social feito pela polícia? É Beware uma ameaça real liberdades civis? Ou é essa coisa toda sendo exagerada? E o que você pode fazer para manter a polícia de cavar através de suas mensagens de mídia social?

Uma ferramenta óbvia para Departamentos de Polícia

Os policiais já devem ter sido usando a mídia social para coleta de inteligência desde que se tornou mainstream - mesmo de volta em 2006, a polícia prendeu um menino menor de idade no Colorado depois que ele postou fotos de si mesmo no MySpace com um número de armas de fogo.

de mídia social uso em investigações só se tornou mais comum desde então, e há uma série de histórias que atestam sua eficácia. Em 2014, a polícia de Nova York apreendeu mais de 250 armas vendidas ilegalmente após uma extensa investigação que começou quando os oficiais notaram um rapper aspirante tinha postado imagens de armas em seu estúdio no Instagram.

Houve inúmeros relatos de estudantes sendo preso por colocar bombas e outras ameaças contra suas escolas, e muitas prisões após mensagens que defendem a violência contra a polícia. Até ameaças piada bomba resultaram em prisões. Isto não é limitado para os EUA, ou- há muitos precedentes no Reino Unido para ser preso com base em dizer algo “grosseiramente ofensiva” ou ameaçando em mídia social.Como usar o Twitter sem estragarComo usar o Twitter sem estragarTwitter pode ser um toque enigmático, e é fácil cometer erros ao longo do tempo - mesmo se você for um usuário de longa data. Aqui estão alguns erros comuns e como evitá-los.consulte Mais informação

A mídia social tornou-se um local importante para a postura de gangues e ameaças, ea polícia em cidades como Chicago e Nova York fez um surpreendente número de detenções com base em Facebook, YouTube e mensagens Instagram em que membros de gangues ou estão fazendo algo ilegal ou expressando sua intenção de fazê-lo.

Ao todo, monitoramento de mídia social é uma escolha óbvia para a aplicação da lei - se as pessoas estão postando suas façanhas ilegais no Facebook, onde o mundo inteiro pode vê-los, ele vai pagar para monitorá-lo.

O problema com Cuidado: uma abordagem algorítmica

Então, se a polícia tem sido o monitoramento de mídia social durante anos, por isso é a abordagem de Fresno fazer manchetes? Parte da resposta reside no fato de que Beware usa uma abordagem algorítmica para monitoramento de mídia social. Muitas ferramentas de monitoramento de mídia social simplistas (mesmo aqueles usados ​​por comerciantes de mídia social) Basta olhar para palavras-chave específicas ou padrões nos dados, algo que os policiais individuais fazer em uma escala muito menor.Seu Guia Para Social Media MarketingSeu Guia Para Social Media MarketingNeste momento, há um ataque de ambas as pessoas e as empresas se voltando para meios de comunicação sociais. A concorrência é feroz, e nenhuma empresa pode perder tempo ou dinheiro fazendo isso errado.consulte Mais informação

Mas cuidado, quando recebem informações de um indivíduo, calcula um “score ameaça” com base em, segundo o site da Intrado,

... milhares de milhões de [publicamente] registos comerciais disponíveis em uma questão de segundos, alertando respondedores a situações potencialmente perigosas enquanto a caminho, ou no local de, um pedido 9-1-1 para obter assistência.

Os bilhões de pontos de dados são provenientes de mensagens de mídia social, prisão e outros registros públicos, bancos de dados comerciais, e muitos outros tipos de dados, mas exatamente de onde vêm e como eles são traduzidos em uma pontuação ameaça verde, amarelo ou vermelho é um segredo comercial guardado por Intrado, o fabricante do software.

Como a polícia usar este sistema de pontuação, no entanto, é óbvio - se um chamador 911 ou alguém envolvido na chamada tem uma pontuação amarelo ou vermelho ameaça, os oficiais estarão mais cautelosos indo em que poderia muito bem significar a ser mais altamente armado e pronto. para o problema, uma mentalidade que poderia ter consequências graves para o chamador.

Em 2007, a polícia está investigando o roubo de dois consoles PlayStation em um campus universitário quando descobriram imagens do suspeito posando com um número de armas de fogo nas mídias sociais. Eles enviaram uma equipe da SWAT para a casa do suspeito, e outro estudante acabou morto após um oficial confundiu os sons do aríete usado para ganhar entrada para a casa de tiros. Este é exatamente o tipo de resposta fortemente armados com base em informações recolhidas de mídia social que tem pessoas preocupadas.

o Postar‘S história mencionou que uma mulher que twittou sobre o jogo Raiva e um homem que vivia em uma casa anteriormente ocupada por uma pessoa de interesse tanto tinham níveis elevados de ameaças. Nenhuma destas pessoas teria sido dado um segundo pensamento por um oficial de carne e sangue, mas o software de Intrado poderia colocar policiais na borda se eles estavam a responder a uma chamada a partir de qualquer desses cidadãos.

O que é preocupante para muitas pessoas é que a pontuação ameaça cálculos estão sendo feitos por um algoritmo desenvolvido por uma única empresa que não vai compartilhar suas equações em breve - Cuidado é uma caixa preta total. Algoritmos já controlam porções significativas de nossas vidas, mas o fato de que eles agora podem nos colocar em uma situação perigosa está começando a chamar a atenção das pessoas.4 algoritmos de aprendizado de máquina que moldam sua vida4 algoritmos de aprendizado de máquina que moldam sua vidaVocê pode não perceber, mas a aprendizagem de máquina já está ao seu redor, e ele pode exercer um surpreendente grau de influência sobre sua vida. Não acredita em mim? Você pode ser surpreendido.consulte Mais informação

Algorithmic abordagens para policiamento têm atraído uma grande quantidade de críticas no passado, com alguns críticos dizendo que eles estão propensos a discriminação racial, e outros indo a dizer que as ferramentas são flat-out “racista”. A pesquisa sobre o tema é inconclusivos, com alguns estudos mostrando uma diminuição no crime de curto prazo e outra mostrando nenhum efeito significativo da tecnologia preditiva.

Um Legado de Vigilância

A análise de “bilhões” de pontos de dados traz à mente alguns programas anteriores realizadas pelo governo dos EUA.

Total Information Awareness (TIA) foi uma iniciativa realizada pela Information Awareness Office no início de 2000, que coletou informações sobre compras com cartão de crédito, assinaturas de revistas, navegação na web, e-mail, graus académicos, viagens, eventos legais, e outros tipos de informações para armazenamento numa base de dados central. Mesmo depois de ser rebatizada como Information Awareness terrorista, TIA foi encerrado devido à indignação pública sobre a ideia, francamente orwelliano.

Um de projetos de pesquisa da DARPA olhou em um sistema semelhante chamado Lifelog que iria recolher ...Você não vai acreditar: DARPA futuras pesquisas sobre computadores avançadosVocê não vai acreditar: DARPA futuras pesquisas sobre computadores avançadosDARPA é uma das partes mais fascinantes e secretos do governo dos EUA. A seguir estão alguns dos projectos mais avançados da DARPA que prometem transformar o mundo da tecnologia.consulte Mais informação

... cada atividade e relacionamento uma pessoa se envolve em. Este é incluir compras com cartão de crédito, sites visitados, o conteúdo de telefonemas e e-mails enviados e recebidos, scans de faxes e correio enviadas e recebidas, mensagens instantâneas enviadas e recebidas , livros e revistas de leitura, televisão e rádio seleções, localização física gravado através de sensores de GPS portáteis, [e] de dados biomédicos capturados através de sensores wearable.

Obviamente, Cuidado e outras soluções de monitoramento de mídia social não são quase este avançado, e não têm exatamente o mesmo potencial para violações de privacidade. No entanto, o padrão do governo dos Estados Unidos de criar peças-violar a privacidade de software que ou não são bem compreendidos pelo público ou são mantidos em segredo tem um monte de pessoas nervosas. E monitoramento de mídia social, a polícia está olhando como ele poderia se tornar um campo de batalha liberdades civis.

Muitas pessoas já tomaram lados. O grande número de programas-media-de monitoramento social disponíveis indicam que muitos departamentos de polícia e outras organizações (incluindo escolas) está interessado em usar esta tecnologia.

Por outro lado, grupos como a ACLU já se manifestaram contra a tecnologia, dizendo que poderia permitir que os departamentos de polícia “colocar as pessoas sob suspeita simplesmente por falar sua mente online.” Post do ACLU sobre o tema foi provocativamente intitulado “Este Software de vigilância é provavelmente Espionar #BlackLivesMatter,”Embora haja pouca evidência de que este é o caso.Hashtag Activismo: #powerful ou #pointless?Hashtag Activismo: #powerful ou #pointless?#BringBackOurGirls, #ICantBreathe e #BlackLivesMatter vi ampla cobertura internacional no ano passado -, mas são hashtags um meio eficaz de ativismo?consulte Mais informação

E, é claro, toda a informação puxado por Beware é “comercialmente disponível.” Exatamente o que isso significa é difícil para qualquer um sabe, como os tipos de dados que as redes sociais vendem parecem mudar todo o tempo. Como vimos no passado, não é difícil obter informações que um usuário acha que é privado apenas por fazer as perguntas certas e usando as ferramentas certas.

Eu não seria a primeira pessoa a associar Cuidado e outras soluções de monitoramento de mídia social com minority ReportÉ pré-crime ou 1984‘S pensou crime.

A sofisticação do software como Beware é chegar ao ponto onde pode propensos tirar conclusões com base nas coisas que você não diz, mas só implica. Intrado e outros fabricantes não querem que seu software ligado a romances de ficção científica distópica, mas a conexão é óbvia.

Lições aprendidas

Se você está preocupado com as potenciais violações de privacidade causados ​​por software de monitoramento de meios de comunicação social nas mãos de aplicação da lei ou não, isso deve servir como um lembrete de que o que você colocar para fora no Facebook ou Twitter não está apenas disponível para os seus amigos. É lá fora para sempre, e é provável que nas mãos de uma grande variedade de pessoas e empresas.

A melhor coisa que você pode fazer é não postar coisas estúpidas em mídia social. Não faça piadas sobre fazendo algo ilegal. Não defendo a violência contra a polícia ou membros das forças armadas. Não postar fotos de si mesmo que possam ser interpretadas como uma ameaça (especialmente com armas de simplesmente não postar fotos de si mesmo com armas). Muito disso é o senso comum, mas Fresno e seu uso de Cuidado deve sublinhar a importância destes tipos de medidas de protecção.

Esta é também uma questão importante a ter em mente em face da próxima eleição presidencial dos EUA (Media onde social é também uma ferramenta extremamente importante, Curiosamente). Esta questão poderia muito bem vir a uma cabeça pouco depois de um novo presidente toma posse, e como ele joga fora de lá pode depender de quem está sentado no Oval Office. Pode parecer uma questão menor agora, mas este poderia ser um negócio muito grande em um futuro próximo. Vale a pena manter um olho.6 Recursos para ajudar a controlar a eleição presidencial 2016 EUA6 Recursos para ajudar a controlar a eleição presidencial 2016 EUAo direito das pessoas a votar determina o resultado de uma eleição. Seja um eleitor informado e tomar esta importante tarefa a sério com a ajuda dessas ferramentas.consulte Mais informação

O que você acha sobre os departamentos de polícia de monitoramento de mídia social? Você sente que eles estão justificado em usar uma abordagem algorítmica? Ou você acha que é susceptível de conduzir a discriminação racial e julgamentos imprecisos? Deveríamos estar preocupados com a progressão deste tipo de software?

Esta é uma questão complicada, e eu não sou mesmo totalmente certo como me sinto sobre isso. Ele deixa muito nas mãos de um algoritmo que surveils pessoas sem o seu conhecimento. Mas também poderia ajudar a salvar as vidas de oficiais liderados em situações perigosas. Ajuda-me botar para fora nos comentários abaixo.