Tootfinder

Opt-in global Mastodon full text search. Join the index!

No exact results. Similar results found.
@arXiv_csPF_bot@mastoxiv.page
2025-09-24 07:42:54

Confidential LLM Inference: Performance and Cost Across CPU and GPU TEEs
Marcin Chrapek, Marcin Copik, Etienne Mettaz, Torsten Hoefler
arxiv.org/abs/2509.18886

Confidential LLM Inference: Performance and Cost Across CPU and GPU TEEs
Large Language Models (LLMs) are increasingly deployed on converged Cloud and High-Performance Computing (HPC) infrastructure. However, as LLMs handle confidential inputs and are fine-tuned on costly, proprietary datasets, their heightened security requirements slow adoption in privacy-sensitive sectors such as healthcare and finance. We investigate methods to address this gap and propose Trusted Execution Environments (TEEs) as a solution for securing end-to-end LLM inference. We validate thei…

@bilbo_le_hobbit@mamot.fr
2025-08-31 19:11:05

#FunFact Au début de l'été, la BBC mettait un tour de vis Š l'accès de ses programmes depuis l'étranger. Plus possible d'écouter BBC Radio 6 sur BBC Sounds depuis la France. La chasse aux flux radio s'est poursuivie sur les applications tierces, réduites au silence.
À la fin de l'été, quel plaisir d'entendre de nouveau Mary Ann Hobbs via mon ordi et l'appli Shortwa…

@cvillisek89@noc.social
2025-11-16 01:53:36

Une pétition est en ligne pour soutenir les Missions locales qui pourraient voir leur financement baisser drastiquement Š cause du PLF2026, mettant en péril le soutien de milliers de jeunes en France. Soutenez-les ! c.org/J46N2cGnqy