Posts on yht.life https://yht.life/post/ Recent content in Posts on yht.life yht.life https://yht.life/opengraph.webp https://yht.life/opengraph.webp Hugo -- 0.145.0 zh Mon, 10 Nov 2025 10:40:16 +0800 每日论文: MoM https://yht.life/post/mei-ri-lun-wen-mom/ Mon, 10 Nov 2025 10:40:16 +0800 https://yht.life/post/mei-ri-lun-wen-mom/ <h1 id="每日论文-mom-linear-sequence-modeling-with-mixture-of-memories-20251110">每日论文: MoM: Linear Sequence Modeling with Mixture-of-Memories #20251110</h1> <h2 id="模型架构">模型架构</h2> <p> <div class="post-img-view"> <a data-fancybox="gallery" href="https://blog-cdn.yht.life/blog/202511121040083.png"> <img src="https://blog-cdn.yht.life/blog/202511121040083.png" alt="img" /> </a> </div> </p> <p>将MoE的思想搬到线性注意力上,用一个线性层为输入生成分数,然后选择top-k个记忆进行线性注意力计算.对于每个记忆,使用和计算线性注意力相同的方式计算,最后将多个记忆的结果进行加权求和.(权重是归一化后的top-k分数)</p> macbook扩容:自动挂载 https://yht.life/post/macbookkuo-rong-zi-dong-gua-zai/ Fri, 31 Oct 2025 19:45:35 +0800 https://yht.life/post/macbookkuo-rong-zi-dong-gua-zai/ <h2 id="前言">前言</h2> <p>苹果存储比金子贵hhh 我电脑上有很多数据要存,其中一些还对延迟、带宽有要求,所以不能用nas或者云存储,于是想着给这台256g的小垃圾升级一下.</p> 每日论文: craig #20251031 https://yht.life/post/mei-ri-lun-wen-craig-20251031/ Fri, 31 Oct 2025 18:42:34 +0800 https://yht.life/post/mei-ri-lun-wen-craig-20251031/ <p><span class="secret-placeholder" data-id="8e0894495b6de85b75ab49be2d960516a76b860a4b0e62ac62b73b3ddb31f4c3" title-hash="e6d66150a5caaa10e460768599d8bedbb8dd5418ae213fa0e9b09b3847c60adb"></span></p> <p>优化的几个实体: 参数 数据集 方法(loss、lr、正则)</p> <p>目的: 在数据集上做精简,选子集来代表整体数据集,保证速度和精度的平衡.</p> <p>原论文用一堆推导拿到了:</p> 大一学年总结 (2024.9-2025.8) https://yht.life/post/%E5%A4%A7%E4%B8%80%E5%AD%A6%E5%B9%B4%E6%80%BB%E7%BB%93-20249-20258/ Fri, 26 Sep 2025 23:38:00 +0800 https://yht.life/post/%E5%A4%A7%E4%B8%80%E5%AD%A6%E5%B9%B4%E6%80%BB%E7%BB%93-20249-20258/ <h1 id="大一学年总结-20249-20258">大一学年总结 (2024.9-2025.8)</h1> <p>​ 现在是2025年9月底,国庆假期前夕. 时间确实过得很快,我离老死又近了一步. 这一年过得挺简单, 没有以前那么多奇怪的事,更多就是平淡普通的生活.</p> 跨设备同步剪切板 (SyncClipboard) 配置 https://yht.life/post/%E8%B7%A8%E8%AE%BE%E5%A4%87%E5%90%8C%E6%AD%A5%E5%89%AA%E5%88%87%E6%9D%BF-syncclipboard-%E9%85%8D%E7%BD%AE/ Wed, 24 Sep 2025 10:59:01 +0800 https://yht.life/post/%E8%B7%A8%E8%AE%BE%E5%A4%87%E5%90%8C%E6%AD%A5%E5%89%AA%E5%88%87%E6%9D%BF-syncclipboard-%E9%85%8D%E7%BD%AE/ 配置 SyncClipboard 实现跨设备(Windows, macOS, Linux)同步剪切板，并使用自签名TLS证书保障安全。 Multisim仿真HM1-65642-883 https://yht.life/post/multisim%E4%BB%BF%E7%9C%9Fhm1-65642-883/ Fri, 14 Mar 2025 21:04:04 +0800 https://yht.life/post/multisim%E4%BB%BF%E7%9C%9Fhm1-65642-883/ <p>这两天刚好在自学计组，打算从零开始搓计算机，ALU什么就不说了，稍微记录下RAM仿真。</p> <p>两片65642相连拓展至16位；</p> <p>注意到E1始终接地，E2接时钟，控制芯片使能。</p> 高考结束,记录我复学后有趣的高中生活 https://yht.life/post/%E9%AB%98%E8%80%83%E7%BB%93%E6%9D%9F%E8%AE%B0%E5%BD%95%E6%88%91%E5%A4%8D%E5%AD%A6%E5%90%8E%E6%9C%89%E8%B6%A3%E7%9A%84%E9%AB%98%E4%B8%AD%E7%94%9F%E6%B4%BB/ Mon, 12 Aug 2024 18:02:26 +0800 https://yht.life/post/%E9%AB%98%E8%80%83%E7%BB%93%E6%9D%9F%E8%AE%B0%E5%BD%95%E6%88%91%E5%A4%8D%E5%AD%A6%E5%90%8E%E6%9C%89%E8%B6%A3%E7%9A%84%E9%AB%98%E4%B8%AD%E7%94%9F%E6%B4%BB/ <h2 id="最初-2210-233">最初 (22.10-23.3)</h2> <p>2022年10月，在一年的休学过后，我开始了全新的高二生活。 休学的原因是抑郁症，现在想起来简直不能理解当初为啥情绪那么低落，毕竟该咋活咋活，平淡有趣地过完每一天就行了，想那么多实在没必要啊。</p> 基准测试文件 https://yht.life/post/%E5%9F%BA%E5%87%86%E6%B5%8B%E8%AF%95%E6%96%87%E4%BB%B6/ Wed, 18 May 2022 18:07:59 +0800 https://yht.life/post/%E5%9F%BA%E5%87%86%E6%B5%8B%E8%AF%95%E6%96%87%E4%BB%B6/ 测试博客功能用的文件.