使用 CInternetSession 封装多线程 http 文件下载

2016-07-02

如何下载一个http文件?我们当然可以用socket自己实现http协议去做,但费时费力还易出bug,对于一个客户端程序稳定易维护是第一位的,所幸MS给我们提供了功能强大的internet API函数族,MFC的CInternetSession对它们进行了一些简单的封装,但如此简单的封装对我等拿来主义者来说只是个半成品。必须经过再加工才能食用。

先来介绍一下CInternetSession的使用:

下面的代码是读取链接的基本方法:

// CInternetSession在遇到一些错误时会抛出异常,因此必须包起来
TRY
{
    CInternetSession   sess ;

    // 统一以二进制方式下载
    DWORD       dwFlag = INTERNET_FLAG_TRANSFER_BINARY|INTERNET_FLAG_DONT_CACHE|INTERNET_FLAG_RELOAD ;
    CHttpFile   * pF = (CHttpFile*)sess.OpenURL(strFilename, 1, dwFlag); ASSERT(pF);
    if (!pF)
        {AfxThrowInternetException(1);}

    // 得到文件大小
    CString      str ;
    pF->QueryInfo (HTTP_QUERY_CONTENT_LENGTH, str) ;
    int   nFileSize = _ttoi(str) ;

    char   * p = new[nFileSize] ;
    while (true)
    {
        // 每次下载8Kb
        int   n = pF->Read (p, (nFileSize < 8192) ? nFileSize : 8192) ;
        if (n <= 0)
            break ;
        p += n ; nFileSize -= n ;
    }
    delete[] p ;
    delete pF ;
}
CATCH_ALL(e) {}
END_CATCH_ALL

这段代码有一个问题,在获取文件大小这个地方,对于静态网页 HTTP_QUERY_CONTENT_LENGTH 查询会返回文件大小,但对于asp,php这样的动态网页,查询会返回0。必须通过不断的调用 CHttpFile::GetLength 来一点一点累加内容,就像这样:

int   n = pF->GetLength() ;
while (n)
{
    int   * p = new BYTE[n] ;
    pF->Read (p, n) ;
    delete[] p ;
    n = pF->GetLength() ;
}

不过网络断线同样会让 GetLength 返回0,必须把这种情况屏蔽掉。

if (n == 0)
{
    DWORD   dw ;
    if (::InternetQueryDataAvailable ((HINTERNET)(*pF), &dw, 0, 0) && (dw == 0))
    {
        // 到这里就代表文件下载成功了
    }
}

 OK,我们已经把机制摸清了,剩下就是把这些体力活全扔进线程里,又一个麻烦产生了:线程里如何向外界通知事件(开始下载,下载完成之类)呢?直接调用回调函数当然可以,但这时回调函数是置于我们的线程中,造成在回调函数中对资源的访问必须非常小心,防止多线程冲突。下一步,加锁同步...。

挣扎在多线程泥潭中的人已经够多的了,其实我们有一个更安全方便的方法,借助 SendMessage 把线程里的事件发送到窗口线程统一处理,windows会帮我们把所有消息排队执行,相当于把多线程程序转成了单线程^_^ (我一个同事把此类用于包含数百个线程的爬虫程序中,非常稳定)

封装结果及使用:

template<class T>
class FCDownloadFileWndBase : public T
{
public:
    // 默认构造函数
    FCDownloadFileWndBase () {}
    // CDialog 构造函数
    FCDownloadFileWndBase (UINT nID, CWnd* pParent) : T(nID, pParent) {}
    // CFormView 构造函数
    FCDownloadFileWndBase (UINT nID) : T(nID) {}

    // 创建一个线程下载文件URL,如果URL正在下载中,此函数什么也不做立即返回
    void DownloadFile (LPCTSTR strFileURL, int nPriority=THREAD_PRIORITY_IDLE) ;

protected:
    // 检查链接最后修改时间,有些服务器会禁止查看时间,strTime为空
    // 用户必须重载实现本接口,返回TRUE则继续下载文件,返回FALSE则不再下载文件
    virtual BOOL DownloadFile_OnCheckTime (CString strFileURL, CString strTime) =0 ;

    // 当链接成功下载完成后会调用此接口
    virtual void DownloadFile_OnFinished (CString strFileURL, char* pBuffer, int nLength) {}

    // 当IE设置代理服务器并且服务器需要帐号认证时候回调
    virtual void DownloadFile_OnProxyValidate (CString strFileURL, CString& strUsername, CString& strPassword) {}

    // 出现错误时回调
    virtual void DownloadFile_OnError (CString strFileURL) {}

    // 开始下载一个链接
    virtual void DownloadFile_OnStartDownload (CString strFileURL) {}

    // 当前进度,每下载一块数据就会回调
    virtual void DownloadFile_OnProgress (CString strFileURL, int nNow, int nTotal) {}
};

使用起来非常简单,让你的窗口从它派生,然后选择你感兴趣的事件重载之即可。

几点说明:

1.本类会自动使用IE里的连接设置,如果代理服务器需要帐号验证,会回调 DownloadFile_OnProxyValidate 让用户输入帐号密码;

2.因为使用了模版,所以不支持MFC丑陋的dynamic机制:-( ,请把 DECLARE_DYNAMIC 和 IMPLEMENT_DYNAMIC 宏从你的类中移除。如果你需要运行时类型检查,可以用C++的RTTI机制dynamic_cast/typeid;