Tootfinder

This https://arxiv.org/abs/2407.19353 has been replaced.
initial toot: https://mastoxiv.page/@arX…

A spring-block theory of feature learning in deep neural networks
Feature-learning deep nets progressively collapse data to a regular low-dimensional geometry. How this emerges from the collective action of nonlinearity, noise, learning rate, and other factors, has eluded first-principles theories built from microscopic neuronal dynamics. We exhibit a noise-nonlinearity phase diagram that identifies regimes where shallow or deep layers learn more effectively and propose a macroscopic mechanical theory that reproduces the diagram and links feature learning acr…

#LB Eu estava sem saber o que pensar sobre essa história do humorista Leo Jardins. Embora não me restasse dúvidas de que se tratava de um humor escroto e que certas piadas ajudam a eternizar formas de preconceito, eu tendia a achar perigoso e complicado criminalizar o "rir de desgraças alheias" (mesmo sendo de minorias). Mas esse link me ajudou a entender um pouco melhor como a coisa é j…

🚀 Melhoramos nossa implementação de malloc(), agora garantindo alinhamento de memória para evitar desperdício e melhorar a performance. Pequenos ajustes, grandes impactos! Quer entender como isso funciona e por que faz diferença? Confira no post 👇
https://suspensao.blog.br/descrenca…

Implementando malloc() e free() — alinhamento de memória
Nossa implementação de malloc() e free() avançou bastante. No último post, vimos por exemplo como unificar blocos de memória menores para evitar fragmentação. Para evitar ainda mais problemas nessa…