OFC: An Opportunistic Caching System for FaaS Platforms

[linxuyalun]

EuroSys ’21
https://doi.org/10.1145/3447786.3456239

[linxuyalun]

OFC 这篇文章从整体的 idea 而言在于利用用户定义的内存总是 over provide 的特点，通过 ML 的手段给函数部署真正需要的内存大小，然后多出来的部分来作为 cache 减少中间函数的传输代价。

[linxuyalun]

三个 challenge：

1. 怎么知道每个函数真正要用的内存是多少？
2. 怎么保证本地 cache 系统的垂直扩展能力？
3. 怎么保证 cache 系统的 transparent，efficient 和 reliable？

[linxuyalun]

1. 使用 ML 的方法去做预测；
2. 第二个 challenge 的难点在于当一个节点内存不够时能够 scaling down。论文采用两种策略，业务上来讲，尽可能驱逐已经没用的 cache，从实现来说，提出一个算法用来进行 object 迁移；
3. 这个挑战本质上也是提出一些策略去解决，首先只有当一个数据可能改善执行时间时才会缓存，然后 cache 存储的时候采用异步存储以及一些其他常见的技术手段。主要也是通过 ML 和 cache 的思路。