Stanford analisa a retina como uma rede neural interpretável no curso EE292R

O Stanford Online publicou no YouTube uma aula de Stephen Baccus, professor de neurobiologia da Universidade Stanford. Ela foi ministrada no curso EE292R «AI and Data for Science», no outono de 2026. O tema declarado são modelos mecanicistamente interpretáveis da computação no sistema visual inicial. Trata-se da retina: ela tem cerca de 100 milhões de fotorreceptores, e a informação segue para o cérebro por aproximadamente um milhão de fibras do nervo óptico. É uma compressão severa, e entender como exatamente ela funciona continua sendo um bom problema para a interpretabilidade.

O que se sabe sobre a aula

A descrição do vídeo traz pouca informação concreta. Ela indica o palestrante, o nome do curso, um link para o cronograma do outono de 2026 e as hashtags #ComputationalNeuroscience, #MechanisticInterpretability e #Neuroscience. Não há resultados, datasets nem métricas. Tudo o que vai além dessa lista aparece abaixo marcado como contexto de trabalhos publicados anteriormente, e não como resumo da aula.

O curso se posiciona como uma ponte entre IA e dados científicos. Para engenheiros de machine learning, é um formato raro: o sistema biológico não serve como fonte de metáforas, mas como campo de provas para testar métodos de interpretação.

Por que a retina serve para a interpretabilidade mecanicista

A retina tem três propriedades que a maioria dos grandes modelos não tem.

Primeiro, a entrada é totalmente conhecida: é a imagem que o próprio experimentador apresenta ao tecido. Segundo, a saída pode ser registrada: eletrofisiologistas medem a atividade das células ganglionares. Terceiro, as camadas intermediárias (fotorreceptores, células bipolares e amácrinas) são estudadas há muito tempo e contam com dados independentes.

O resultado é uma situação rara: no modelo, é possível comparar com neurônios reais não só as previsões de saída, mas também os nós internos. Na interpretabilidade de LLMs, esse tipo de «gabarito» para os estados internos geralmente não existe.

Contexto: o que o laboratório de Baccus já fez

O grupo de Baccus, inclusive em colaboração com Surya Ganguli, já publicou trabalhos sobre redes neurais convolucionais como modelos da retina. Em um artigo de 2016 no NIPS, esses modelos previram as respostas das células ganglionares a cenas naturais com mais precisão do que os modelos lineares-não lineares clássicos. Em um trabalho posterior, publicado na Neuron, os pesquisadores analisaram o funcionamento interno das redes treinadas e relacionaram seus componentes com células da retina. A aula, a julgar pelo tema declarado, dá continuidade a essa linha, mas isso só pode ser confirmado depois de assistir ao vídeo.

Parâmetros principais do problema:

• entrada: cenas naturais e estímulos visuais controlados;
• saída: respostas das células ganglionares, cerca de 1 milhão por retina humana;
• compressão: de cerca de 100 milhões de fotorreceptores para um único canal de saída;
• método: interpretabilidade mecanicista, ou seja, a busca por elementos computacionais específicos dentro do modelo;
• validação: comparação das unidades internas com registros de neurônios reais.

Como usar o material na prática

Se você trabalha com interpretabilidade de modelos, vale assistir à aula com uma pergunta concreta em mente: como os autores demonstram que o mecanismo encontrado no modelo corresponde ao biológico, e não apenas coincide do ponto de vista estatístico? Esse critério se aplica a qualquer tarefa em que você tenha dados sobre os estados internos de um sistema.

Se você constrói modelos para dados científicos, preste atenção à escolha da arquitetura. No caso da retina, é importante que as camadas da rede correspondam à anatomia; do contrário, a comparação com os neurônios perde o sentido.

Por fim, antes de citar a aula ou tirar conclusões a partir dela, confira o conteúdo no próprio vídeo e no cronograma do curso. O anúncio não traz nenhum número de resultado.