Linux (6) - 码厩

#55 在终端看图

开发工具 Linux 终端 2019-06-19

通过 ASCII 字符或者色块，加上颜色转换实现
通过终端的图形支持实现

理论上，可以看图之后，也可以看视频，甚至做更多复杂的事情。

#54 转载：Linux 下使用 unzip 解压缩中文乱码问题

Linux unzip 乱码问题 2019-05-06

一、问题提出

使用info-zip.org 的 unzip类解压zip压缩包，如果压缩包中有中文文件名，那么解压这些文件出来时文件名是乱码的。

二、分析

参考这篇文章让 Unzip 正确解压其中包含中文文件名的 Winzip 压缩包^链接失效（注：疑似转载链接），原因是 unzip 试图将 zip 文件中用 oem(ibm-dos) codepage 编码的文件名转换成自己的内部编码。可惜 unzip 只能转换极少数几种 codepage，中文的 cp936 不在其列。

#53 convert 图片转换的一次示例

开发工具 Linux 图像处理 ImageMagick 2019-05-05

ImageMagick 是 Linux 下的一个常用的图像处理工具，核心命令是 convert, identify 等。

#52 Ubuntu 从 18.10 升级到 19.04 过程中出现的三个问题

开发工具 Ubuntu Linux 2019-04-26

Ubuntu 19.04 与 4/19 发布，生命周期 9 个月。我提前两个月就定着日程在等，总是克制不住追新的冲动，哈哈。

好像主要就是：

内核升级到 5.0（4.x 升级到 5.0 其实没有什么大变化，主要是老人家高兴）
GNOME 3.32，之前是 3.30

do-release-upgrade

由于审计过程中意外中断，导致出现了一些问题，这里做个记录。
声明：这些问题，是非正常升级流程出现的，不是说是 Ubuntu 的问题。

#51 Linux 内存占用情况分析

Linux 2019-04-04

以我本地系统（Ubuntu）上的 supervisord 为例。

ps -ef | grep supervisord / pgrep supervisord
sudo cat /proc/1553/maps
sudo gdb attach 1553
gdb 中导出指定区域内存
dump memory /tmp/1553-heap.mem 0x564a7e667000 0x564a7eb25000
显示内存数据
strings -n 10 /tmp/1553-heap.mem
ASCII 格式的展示，过滤掉长度少于 10 的行。

关于 `/proc/pid/maps` 文件的格式

内存映射（mmap）：

文件映射，将整个文件或文件的一部分映射到内存中
匿名映射，创建一个全为 0 的内存空间

这里的 maps 文件就是内存映射的一个情况。

内核操作集：proc_pid_maps_op，导出函数：show_map（没接触过内核开发）
可以 sudo head /proc/self/maps 试试。当前进程的内存映射信息表，软链接。
Linux 内存管理单元数据结构：vm_area_struct

$ sudo head /proc/1553/maps
564a7d858000-564a7d8a5000 r--p 00000000 08:01 3018208                    /usr/bin/python2.7
564a7d8a5000-564a7da56000 r-xp 0004d000 08:01 3018208                    /usr/bin/python2.7
564a7da56000-564a7db65000 r--p 001fe000 08:01 3018208                    /usr/bin/python2.7
564a7db66000-564a7db68000 r--p 0030d000 08:01 3018208                    /usr/bin/python2.7
564a7db68000-564a7dbde000 rw-p 0030f000 08:01 3018208                    /usr/bin/python2.7
564a7dbde000-564a7dc02000 rw-p 00000000 00:00 0
564a7e667000-564a7eb25000 rw-p 00000000 00:00 0                          [heap]
7fe8e4308000-7fe8e4448000 rw-p 00000000 00:00 0
7fe8e4448000-7fe8e444c000 r--p 00000000 08:01 1840428                    /lib/x86_64-linux-gnu/libexpat.so.1.6.8
7fe8e444c000-7fe8e446d000 r-xp 00004000 08:01 1840428                    /lib/x86_64-linux-gnu/libexpat.so.1.6.8

第一列：address 地址。[vm_start, vm_end)，即起始地址-结束地址。
第二列：perms 权限。vm_flags，前三位分别是 r/w/x，不必说，第四位有两种值：p 或 s，分别表示私有 private 或共享 shared。
第三列：offset 偏移。vm_pgoff，如果是从文件映射到内存，那么偏移值表示从这个文件的指定位置开始，否则就会是 00000000
我猜，可能比较多的是用在拓展库之类的方面。
第四列：dev 设备。主设备号:次设备号，同样适用于从文件映射到内存的情况，表示文件所存放的设备。
vm_file->f_dentry->d_inode->i_sb->s_dev
第五列：inode FS索引节点。同样适用于从文件映射到内存的情况，表示文件所存放的 “块”（或者叫 “区域” 吧）。
vm_file->f_dentry->d_inode->i_ino
0 表示不关联，dev 字段也应该为 00000000
第六列：pathname 文件名
文件名
这段虚拟内存在进程中的角色，常见的：
- [heap] 堆
- [stack] 栈，主线程（main process）
- [stack:1001] 栈，线程 ID 我还没见到过这样的情况
- [vdso]
- [vvar]
- [vsyscall]
匿名映射
- 不显示，其他情况

其他

据说，主线程申请内存（malloc）会显示 [heap]，子线程申请则是匿名映射。
子线程的栈空间动态分配，匿名。这就是我没看到一例类似 [stack:1001] 情况的原因么？
从 maps 文件记录上看，增加一个子线程，在 maps 文件中就增加了两条记录，分别是子线程的栈空间和栈保护页的记录。默认情况下，pthread为子线程预留的栈空间大小为1MB，栈保护页为4KB（这主要跟页大小相关）。

#!/usr/bin/env python
import re
maps_file = open('/proc/self/maps', 'r')
mem_file = open('/proc/self/mem', 'r', 0)
for line in maps_file.readlines():  # for each mapped region
    m = re.match(r'([0-9A-Fa-f]+)-([0-9A-Fa-f]+) ([-r])', line)
    if m.group(3) == 'r':  # if this is a readable region
        start = int(m.group(1), 16)
        end = int(m.group(2), 16)
        mem_file.seek(start)  # seek to region start
        chunk = mem_file.read(end - start)  # read region contents
        print chunk,  # dump contents to standard output
maps_file.close()
mem_file.close()

sudo awk -n -F '[- ]' '/\[heap\]/ {h="0x"$2-"0x"$1+1;printf("%d bytes (%.2f MB)\n",h,h/1024/1024)}' /proc/1553/maps

python -c "import sys;a,b=sys.argv[1].split('-');ai=int('0x'+a,16);bi=int('0x'+b,16);x=(bi-ai+1);y=x/(1024*1024);print('%d Bytes (%.2f MB)'%(x,y));" 55854b0f5000-55855a372000

参考资料或拓展阅读

colin.guru，Dumping Ram From Running Linux Processes
StackOverflow，How to identify STACK and HEAP segments in /proc/$PID/maps file?
StackOverflow，How do I read from /proc/$pid/mem under Linux?
CSDN，linux proc maps文件分析

#50 TeamViewer 扑街之后的远程终端解决方案

开发工具 Linux 终端 tmux 2019-03-21

从今天开始，打开 TeamViewer 就这样了。

商业用途
检测为商业用途
该软件似乎适用于商业环境。请注意：免费版仅供个人使用。
您的会话将在5分钟后终止。请登录我们的网站以获得更多信息。

商业用途
超时后连接将被阻断。
您的许可证对您与伙伴的最大会话时间有所限制，立即重新连接时将被阻断。请稍后再试或升级您的许可证。
与该伙伴的连接在07:33之前都将保持阻断。

我不喜欢下那些破解版软件，对原开发者来说，就是偷东西，总觉得有亏于人。
另一方面也不放心其安全性。

但是，这价格真心用不起。

新方案

需求

远程访问公司的工作机器

备选方案

不管什么方案，从两个内网机器想要实现通信，只能有一个双方都能连接的外网主机进行中转。

我对自己家的公网 IP 很久以前就绝望了，我打电话给电信要求分配公网 IP，之后他们说给我开了，然后我要求进入光猫最高权限，进去设置端口转发规则，不行。。。那要公网 IP 有捷豹用啊！

所以：

要么别个给免费的全套远程桌面访问解决方案（一般有些限制），比如行云管家
要么给免费的数据转发（一般也有些带宽之类的限制），或许附带专用软件。

只要能流畅使用终端，都可以接受。

在研究方案的过程中，发现了另一个好的选择：tmate.io。

tmate.io

这是 tmux 的分支。
tmux 我用过好一阵子，也很容易上手。

使用方法：

# 创建远程连接
tmate -S /tmp/tmate.sock new-session -d

# 显示 SSH 连接命令
tmate -S /tmp/tmate.sock display -p '#{tmate_ssh}'

思路

创建定时任务，定时检查并建立 tmate 连接，然后将 ssh 命令输出到文件里面。
文件位于我的坚果云文件同步目录 $HOME/Documents/Mine/，这样我在任何地方都能通过 SSH 访问公司的电脑。

/etc/cron.d/tmate

SHELL=/usr/bin/zsh
* * * * * markjour [ -f $HOME/Documents/Mine/tmate.now ] && $HOME/Documents/Mine/tmate.sh && rm $HOME/Documents/Mine/tmate.now

~/Documents/Mine/tmate.sh

#!/usr/bin/zsh

tmate -S /tmp/tmate.sock kill-session
tmate -S /tmp/tmate.sock new-session -d
sleep 3
tmate -S /tmp/tmate.sock display -p '#{tmate_ssh}' > ~/Documents/Mine/tmate.conn

我在家只需要在同步目录下创建一个名为 tmate.now 的文件，一会儿就能用上 ssh 了。

#49 Web 保存数据的特殊方案

Linux Shell 2018-11-08

将数据通过编码存在图片里面，实现导出导入功能。
虽然我不知道什么场景下需要使用这个方案，但这个想法特有意思。

#48 获取 Shell Script 所在脚本

Linux Shell 2018-07-17

CURRENT_PATH=$(dirname $(readlink -f "$0"))

#47 Linux date 命令

Linux 2018-07-03

date
2018年 07月 03日 星期二 14:09:28 CST

# locale 格式
date +"%c"
2018年07月03日 星期二 14时09分22秒

# RFC3339 格式
date --rfc-3339=s
2018-07-03 14:09:48+08:00

# UTC 时间，ISO 8601 格式
date -u +"%Y-%m-%dT%H:%M:%SZ"

# yyyy-mm-dd hh:mm:ss,mm
date +'%Y-%m-%d %H:%M:%S,%3N'
2018-07-03 14:09:20,902

# 获取时间戳
date +%s

# 时间字符串转时间戳
date -d "2018-07-03 14:09:00" +%s
1530598140
date -d "2018-07-03 14:09:00" +%s --utc
1530626940

# 时间戳转时间字符串
date -d @1530598140
2018年 07月 03日 星期二 14:09:00 CST
date +'%Y-%m-%d %H:%M:%S' -d @1530598140
2018-07-03 14:09:00

# 获取一分钟前的时间
date --rfc-3339=s -d '1 min ago'
date --rfc-3339=s -d '1 minute ago'
date --rfc-3339=s -d '1 minutes ago'

# 获取一个小时前的时间
date --rfc-3339=s -d '1 hour ago'

#46 free 输出解读

Linux 2018-06-12

total 内存总数
used 使用内存
free 未使用内存
shared Memory used (mostly) by tmpfs (Shmem in /proc/meminfo)
buffers Memory used by kernel buffers (Buffers in /proc/meminfo)
cached Memory used by the page cache and slabs (Cached and SReclaimable in /proc/meminfo)
available 可用内存

一	二	三	四	五	六	日