lulitao1997
V2EX  ›  问与答

请教如何科学地从 VPS 上搬文件下来

  •  
  •   lulitao1997 · Nov 28, 2017 · 13904 views
    This topic created in 3120 days ago, the information mentioned may be changed or developed.

    使用 scp 经常在下载到 500mb 左右的时候断开连接,然后就 ssh 不上去了,大概持续几个小时,猜测是端口被封了?

    使用 python -m SimpleHTTPServer 也有这个问题

    62 replies    2017-11-29 18:23:34 +08:00
    biglih
        1
    biglih  
       Nov 28, 2017
    sftp
    DoraJDJ
        2
    DoraJDJ  
       Nov 28, 2017
    一直用 sftp
    shiny
        3
    shiny  
    PRO
       Nov 28, 2017
    文件尺寸达到几个 G 的时候用 http 接口速度会更快点。
    benjix
        4
    benjix  
       Nov 28, 2017 via iPhone
    跑个 Nginx 用 HTTP
    lulitao1997
        5
    lulitao1997  
    OP
       Nov 28, 2017
    @shiny 问题是经常下载到一半就断连了,之后就长时间无法重连
    dvbuzhidao1
        6
    dvbuzhidao1  
       Nov 28, 2017 via Android
    那你就分卷压缩再合并
    zgx030030
        7
    zgx030030  
       Nov 28, 2017
    用 sftp、安装 ftp
    lulitao1997
        8
    lulitao1997  
    OP
       Nov 28, 2017
    有无防止被封端口的方法?使用 ss 有效吗
    Wolther47
        9
    Wolther47  
       Nov 28, 2017 via iPhone
    如果经常要搬来搬去的话,我觉得装个 Resilio Sync 比较省事
    hello123vvv
        10
    hello123vvv  
       Nov 28, 2017
    简易 python web 服务,做下载文件用
    8012,用 python 登陆的网站目录,提供下载文件服务.使用后停止 python web 服务.

    from os import curdir,sep
    from BaseHTTPServer import BaseHTTPRequestHandler,HTTPServer
    class MyHandler(BaseHTTPRequestHandler):
    def do_GET(self):
    try:
    f=open(curdir+sep+self.path)
    self.send_response(200)
    self.send_header('Content-type','application/octet-stream')
    self.end_headers()
    self.wfile.write(f.read())
    f.close()
    except IOError:
    self.send_error(404, 'File Not Found: %s' % self.path)

    def main():
    try:
    server = HTTPServer(('',8012),MyHandler)
    print 'welcome to the ,machine...',
    print 'Press ^C once or twice to quit'
    server.serve_forever()
    except KeyboardInterrupt:
    print '^C received,shutting down server'
    server.socket.close()

    main()
    fstab
        11
    fstab  
       Nov 28, 2017 via Android   ❤️ 1
    http 然后用多线程下载工具,很带劲。
    cxh116
        12
    cxh116  
       Nov 28, 2017
    rsync 恢复了再继续同步
    blankme
        13
    blankme  
       Nov 28, 2017
    @lulitao1997
    一直用 rsync+ss 传文件,不担心断开,速度也快。
    tscat
        14
    tscat  
       Nov 28, 2017
    Resilio 同步下来就好
    lulitao1997
        15
    lulitao1997  
    OP
       Nov 28, 2017
    @blankme rsync 怎么走 ss 呢,能详细说说吗,谢谢。
    blankme
        16
    blankme  
       Nov 28, 2017   ❤️ 1
    @lulitao1997
    搜下 proxychains
    tinkerer
        18
    tinkerer  
       Nov 28, 2017
    @lulitao1997 cyberduck 使用 sftp, 设置代理
    nullen
        19
    nullen  
       Nov 28, 2017
    rsync
    jy02201949
        20
    jy02201949  
       Nov 28, 2017
    还是上 nginx 吧,fdm 多线程下载 http 才是最快最稳的搬运方式,还能断点续传
    czkwg8
        21
    czkwg8  
       Nov 28, 2017
    http 或 ftp
    zlfzy
        22
    zlfzy  
       Nov 28, 2017
    一次性下载? tar 打包 nginx 下载不就完了?
    lulitao1997
        23
    lulitao1997  
    OP
       Nov 28, 2017   ❤️ 1
    @blankme 试了下,这个方法可以防止被封端口,感谢
    CreSim
        24
    CreSim  
       Nov 28, 2017 via Android
    直接 caddy 也可以解决这个问题。。
    CEBBCAT
        25
    CEBBCAT  
       Nov 28, 2017
    Nginx,支持断点续传
    clino
        26
    clino  
       Nov 28, 2017
    rsync -P 可断点
    ZRS
        27
    ZRS  
       Nov 28, 2017
    nginx
    kmahyyg
        28
    kmahyyg  
       Nov 28, 2017 via Android
    我用的 caddy,他的 filemanager 很方便
    zzj0311
        29
    zzj0311  
       Nov 28, 2017 via Android
    内存够用上 Dropbox 啊~
    yearliny
        30
    yearliny  
       Nov 28, 2017 via Android
    可以在 VPS 上上传到国内网盘,然后从网盘下载
    odirus
        31
    odirus  
       Nov 28, 2017
    MEGA
    gamexg
        32
    gamexg  
       Nov 28, 2017
    备份用途,用的 rsync+crontab,没关注速度,反正是后台跑。
    DylanRing0
        33
    DylanRing0  
       Nov 28, 2017   ❤️ 2
    如果传输文件较小(单文件不超过 8GiB ):
    传输单文件,开个 webserver 用 aria2 之类的多线程下载工具拉下来
    然后使用这篇文章说的法子做校验 https://orzfly.com/html/repair-file-chunks-with-aria2.html
    传输多文件,开个 webserver 启用 index 用 IDM 抓取网页 + rsync 校验
    (写个脚本把文件下载链接和校验哈希都导出到 aria2 其实更快些)

    如果传输尺寸较大,或本地网络非常不稳定:
    Resilio Sync 或 自己生成种子文件用一般的 BT 工具传输
    (不用 rsync 是因为这东西传大文件对内存消耗极大,且传输极有可能中断,开了 append 又不会好好校验)
    huangunic0rn
        34
    huangunic0rn  
       Nov 28, 2017 via Android
    http Server..然后 wget -c 断点续传
    29EtwXn6t5wgM3fD
        35
    29EtwXn6t5wgM3fD  
       Nov 28, 2017 via iPhone
    caddy
    wengjin456123
        36
    wengjin456123  
       Nov 28, 2017
    我使用 scp 命令下载一些小文件,大的没尝试
    artandlol
        37
    artandlol  
       Nov 28, 2017 via iPhone
    改下内核参数
    Scp 的加个限速的 -l
    7DLNU56W
        38
    7DLNU56W  
       Nov 28, 2017
    科学的?正常下载就可以呀,用 FTP 或者 HTTP 的方法啦~
    dd99iii
        39
    dd99iii  
       Nov 28, 2017
    bbr + nginx
    dzxx36gyy
        40
    dzxx36gyy  
       Nov 29, 2017
    丢个 filemanager 上去,单文件无依赖,然后就随你怎么搞了
    inflationaaron
        41
    inflationaaron  
       Nov 29, 2017 via iPhone
    Node 装个 http-server 然后 aria2 下来。还可以试试用 UTP 协议
    Technetiumer
        42
    Technetiumer  
       Nov 29, 2017 via Android
    不要用 py 的 server

    http server 一定要用 Nginx
    Osk
        43
    Osk  
       Nov 29, 2017 via Android
    py 的 server 好像是单线程的(?),所以一旦中断就得等 server 超时关掉连接,不然连不上。
    直接配下 nginx,客户端随便找个支持多线程下载+续传的就很快了,直接跑 80 端口无所畏惧。敏感文件就 gpg 加密一下。
    备选:lighttpd,还能很容易的配个访问密码,防下误入的还是可以的。
    jasontse
        44
    jasontse  
       Nov 29, 2017 via iPad
    万不可用 SCP 传输大文件,会被当成 ssh 爬墙被封掉的。
    PopeyeLau
        45
    PopeyeLau  
       Nov 29, 2017 via iPhone
    直接用 Go 建一个 File Server.
    jingniao
        46
    jingniao  
       Nov 29, 2017 via Android
    bbr nginx,还得配 https,http 被劫持得太肆无忌惮了,然后用下载工具多线程下载
    skyfore
        47
    skyfore  
       Nov 29, 2017
    发邮件?发到国内邮箱怎么样?
    liuzhaowei55
        48
    liuzhaowei55  
       Nov 29, 2017
    rsync
    letuslinux
        49
    letuslinux  
       Nov 29, 2017
    nc
    Actrace
        50
    Actrace  
       Nov 29, 2017
    给你的 vps 的 ssh 挂个 vxtrans,满速拉回来。
    ilili
        51
    ilili  
       Nov 29, 2017
    装个 apache,然后 aria2 或者 idm 拖回来
    可选步骤:使用电信缓存服务器,http://yourvps/file 改成 http://ctcache/yourvps/file
    wekw
        52
    wekw  
       Nov 29, 2017
    Rsync 才是王道,实测好用,会自动断线续传,会自动对比内容并在文件末尾新增内容。
    xratzh
        53
    xratzh  
       Nov 29, 2017
    最快且方便的就是装 nginx,更方便的就是搭建宝塔这类面板,然后拖下来。速度慢上魔改 bbr 满速跑。
    isCyan
        54
    isCyan  
       Nov 29, 2017 via Android
    http 本身就支持断点重传,搞个 aria 或者 idm 就行
    sutra
        55
    sutra  
       Nov 29, 2017
    rsync --bwlimit=
    shenqi
        56
    shenqi  
       Nov 29, 2017
    http + 百度云 + 百度云客户端下载。
    yuriko
        57
    yuriko  
       Nov 29, 2017
    我想起以前推到 github 上再用本地下下来的操作……
    BlueFly
        58
    BlueFly  
       Nov 29, 2017
    @dzxx36gyy 正有需要,方便给一个吗?
    wangfei324017
        59
    wangfei324017  
       Nov 29, 2017
    我是装了 lnmp.org 一键安装了个 lnmp,然后自带的 pureftpd 起一下,配置下 ftp 账号,然后用 filezilla 或者其他 ftp 客户端就可以拖文件下来了。文件小或少就直接下载,文件多就 tar 压缩下在下载。
    8355
        60
    8355  
       Nov 29, 2017
    sftp 或者 rsync 如果特别大的文件最好是中转一下.
    hoyixi
        61
    hoyixi  
       Nov 29, 2017
    开个 https 服务,然后各种工具都可以上了,若是速度还是慢, 让迅雷离线,然后从迅雷下,不过需要迅雷离线 vip ~
    lyhiving
        62
    lyhiving  
       Nov 29, 2017 via Android
    HTTP 正解
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2572 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 133ms · UTC 15:41 · PVG 23:41 · LAX 08:41 · JFK 11:41
    ♥ Do have faith in what you're doing.