关于应用memcache缓存的问题

现在有一个日志的表，数据量七百万左右，分页展示在网站上，每页展示15到50条，当翻页到一万条的时候获取数据会比较慢，想用memcache来缓存数据，达到较好的用户体验，具体实现的思路该怎样？
我现在将某一页的数据从数据库中取出，放入内存，下次再访问这一页，则直接从内存中获取，并设置一个失效时间，但是如果我访问另一页，则需要从数据库中重新取数据，并没有得到很好的效果。