ts视频下载 准备下载视频的你确定不进来看看吗

前言

之前一直爬取的内容都是完整的文件,例如一整个mp3或则mp4,但是目前很多视频网站都开始采用ts流媒体视频的方式进行视频的展示,不知道你有没有这样的体验,兴致勃勃的打开一个电影网站,准备开始施展爬虫大法 查看xhr请求之后,本以为可以找到一个返回mp4的接口,没想到返回的是这一堆ts文件

今天我们就来聊一聊怎么下载这些ts文件并将他们拼接为一个mp4

开发工具

ffmpeg,pycharm

解决思路

首先打开谷歌浏览器,F12,查看xhr请求,这一步相信兄弟们已经轻车熟路了。如下图

有两个诡异的m3u8,木错,这就是今天我们的突破口,一般第一个m3u8中存储的都是第二个m3u8文件的url,第二个m3u8文件则是存储的ts文件的urll。因为我们这次主要是讲怎么下载ts文件,所以直接用解析第二个m3u8文件,即可。 双击这个请求,就可以查看详情,其中Request URL就是调用的接口或则远程文件,直接调用则会下载该m3u8文件,然后解析一下,拿到ts的url列表就可以进行下载了。

先看一下这个m3u8文件的内容

很明显文件中存储的不是ts文件的完整地址,需要我们根据实际情况进行拼接就可以,查看的方式就是点击ts文件xhr请求进行查看如下图,很明显,红框圈中的就是我们要拼接在文件名之前的。这就拿到了真实的ts文件地址。

那么开整代码吧

代码实现

解析m3u8文件,获取ts下载列表

要使用到m3u8这个库来解析m3u8文件

代码语言:javascript
复制
import m3u8
tss = []
order = []

#realurl就是存储ts文件地址的m3u8文件的url ,这样返回的数据是json格式的,方便读取数据
data = m3u8.load(realurl).data

appendurl就是要拼接在前面的那个地址 这样存入tss的ts文件地址都是真实地址

order的作用是在将多个ts文件合成一个mp4时,由这个order提供各ts文件拼接的顺序

for i in data["segments"]:
tss.append(appendurl + "/" + i["uri"])
order.append(i["uri"])

到现在为止,ts文件拼接的顺序以及ts文件的真实地址就全部拿到了

多线程下载ts文件,以及ts文件顺序的存储

有一说一,这些ts文件不仅多,而且小,如果我们只是一个线程下载文件,未免太浪费时间了,而且效率太低了,这次我们采用多线程的方式进行大量ts文件的下载

总代码
代码语言:javascript
复制
def download(url, name):

#记录创立的线程
task_list = []

# 获取ts的真实地址和顺序
tss, order = getTss(url)

# 这里将ts文件顺序存储在m3u8,至于为啥这么做,因为ts文件数量太多了
file = open("E://file//order.m3u8", 'w')

# 这里将下载ts文件的本地路径输入到order.m3u8之中
for i in order:
    file.write(f"file 'E:\\file\\ts\\" + i + "'");
    file.write("\n")

#线程池的创立 
pool = ThreadPoolExecutor(max_workers=50)
for i in range(0, len(order)):
    # 启动多个线程下载文件
    task_list.append(pool.submit(FileDownload.downloadFile, 'E://file//ts//' + order[i], tss[i]))
# 判断所有下载线程是否全部结束
while (True):
    if len(task_list) == 0:
        break
    for i in task_list:
        if i.done():
            task_list.remove(i)
# 进行多个ts文件的合并
VideoUtil.mixTss(name)
# 合并结束之后把ts文件都删了,不然太占空间了
for u in order:
    turl = f"E:\\file\\ts\\" + u
    os.remove(turl)</code></pre></div></div><h5 id="4a4vg" name="ts%E6%96%87%E4%BB%B6%E9%A1%BA%E5%BA%8F%E5%AD%98%E5%82%A8%E5%88%B0%E6%9C%AC%E5%9C%B0%E6%96%87%E4%BB%B6%E4%B8%AD">ts文件顺序存储到本地文件中</h5><p><strong>主要代码</strong></p><div class="rno-markdown-code"><div class="rno-markdown-code-toolbar"><div class="rno-markdown-code-toolbar-info"><div class="rno-markdown-code-toolbar-item is-type"><span class="is-m-hidden">代码语言:</span>javascript</div></div><div class="rno-markdown-code-toolbar-opt"><div class="rno-markdown-code-toolbar-copy"><i class="icon-copy"></i><span class="is-m-hidden">复制</span></div></div></div><div class="developer-code-block"><pre class="prism-token token line-numbers language-javascript"><code class="language-javascript" style="margin-left:0"># 这里将下载ts文件的本地路径输入到order.m3u8之中
for i in order:
    file.write(f&#34;file &#39;E:\\file\\ts\\&#34; + i + &#34;&#39;&#34;);
    file.write(&#34;\n&#34;)</code></pre></div></div><p>最终文件中存储的内容

最好按照这种格式存入,之前在网上找的其他格式都会报错,但这个是ok的

多线程下载ts文件

yysy,多线程真的强,尤其是下载这些小文件,多线程真的是绝了

本文采用线程池的方式,为什么采用线程池呢,因为线程池可以帮我们保留一段时间空闲线程,可以减少线程创建和销毁所耗费的时间,大大提高多线程的效率,同时可以帮助我们限制线程的数量 主要代码

代码语言:javascript
复制
  #线程池的创立 
    pool = ThreadPoolExecutor(max_workers=50)
    for i in range(0, len(order)):
        # 启动多个线程下载文件
        task_list.append(pool.submit(FileDownload.downloadFile, 'E://file//ts//' + order[i], tss[i]))
    # 判断所有下载线程是否全部结束
    while (True):
        if len(task_list) == 0:
            break
        for i in task_list:
            if i.done():
                task_list.remove(i)

ts文件合成mp4

主要思路就是利用刚刚生成的那个ts顺序文件(order.m3u8),按照文件中的顺序进行ts文件的拼接。

这里拼接ts文件时还是要使用ffmpeg,没有的兄弟们可以看下这个安装一下 ffmpeg安装教程 主要代码

代码语言:javascript
复制
def mixTss(name):
    com = r'D:\\tool\\ffmpeg\\bin\\ffmpeg.exe -f concat -safe 0 -i E:\\file\\order.m3u8 -c copy E:\\file\\video2\\{}.mp4'.format(
        name)
    os.system(com)

这里解释一下 D:\tool\ffmpeg\bin\ffmpeg.exe : 本地ffmpeg的位置,设置了环境变量直接ffmpeg即可

E:\file\order.m3u8:刚刚生成的存储ts文件的顺序的文件路径

E:\file\video2\{}.mp4:视频最终合成之后存放的位置

至此,ts视频的下载以及合成一个mp4就实现了

成果

ts文件

这是下载过程中截的图,有一说一,看着这些文件爆炸式增加,还挺爽

mp4文件

总结

总之没有想象的这么难,做之前以为很复杂,其实还好,最后欢迎各位大佬指点。