SuooL's Blog

蛰伏于盛夏 藏华于当春

脑电图与睡眠分期

  脑电图根据电极放置位置分为头皮电极脑电图、颅内电极脑电图。一般而言都是头皮电极脑电图。

  头皮电极脑电图是从头皮上将脑部的自发性电活动加以放大记录而获得的图形。因为脑电信号非常微弱,为 mv 或 uv 级别,而且得经过颅骨和头皮的衰减,所以需要经过数百万倍的放大才能显示出来,经过滤波器(减少干扰)最后形成我们所看到的图形。

阅读全文 »

算法解释

本文为策略梯度算法实现及详解,策略梯度算法属于蒙特卡洛方法,可以理解为:

算法完成一个回合之后, 再利用这个回合的数据去学习, 做一次更新。因为我们已经获得了整个回合的数据,所以也能够获得每一个步骤的奖励,我们可以很方便地计算每个步骤的未来总奖励,即回报 $G_t$。$G_t$是未来总奖励,代表从这个步骤开始,我们能获得的奖励之和。$G_1$代表我们从第一步开始,往后能够获得的总奖励。$G_2$代表从第二步开始,往后能够获得的总奖励.

阅读全文 »

API 说明

关于数据处理的 API 变来变去,不知道到底在想什么玩意?

阅读全文 »

Original Paper Reference:MixText: Linguistically-Informed Interpolation of Hidden Space for Semi-Supervised Text Classification (Chen et al., ACL 2020)

Source Code: GitHub - GT-SALT/MixText: MixText: Linguistically-Informed Interpolation of Hidden Space for Semi-Supervised Text Classification

阅读全文 »

Original Paper Reference:An Empirical Survey of Data Augmentation for Limited Data Learning in NLP

这篇综述跟之前 NLP DA 综述的区别,abstract 部分说的很清楚:

we provide an empirical survey of recent progress on data augmentation for NLP in the limited labeled data setting, summarizing the landscape of methods (including token-level augmentations, sentence-level augmentations, adversarial augmentations and hidden-space augmentations) and carrying out experiments on 11 datasets covering topics/news classification, inference tasks, paraphrasing tasks, and single-sentence tasks.

阅读全文 »

  Original Paper Reference:Text AutoAugment: Learning Compositional Augmentation Policy for Text Classification (Ren et al., EMNLP 2021)

  这篇文章显然借鉴了图像领域的 Randaugment 论文 的思想,针对数据集和特定任务的数据增强策略寻找。

阅读全文 »

Original Paper Reference: Improving Robustness Without Sacrificing Accuracy with Patch Gaussian Augmentation

这篇文章提供了另一种数据增强的可能方式,将 gaussian 和 patch 结合,达到在不损失准确性的效果下提升模型的鲁棒性。

Introduction

论文这两段关于深度学习鲁棒性研究的总结值得一读:

阅读全文 »